近期，小米正式推出了一项名为Xiaomi MiMo-V2.5-Pro-UltraSpeed的全新模式，其最大亮点在于实现了全球首个在通用GPU上每秒超过1000个词元的万亿参数模型推理速度。对于普通用户而言，这一速度指标可能略显抽象，为此小米官方发布了科普文章，详细解读了其意义及背后的技术实现路径。

在大型语言模型中，词元是基本的计量单位，好比日常生活中的计量单位如“斤”或“两”。每秒1000词元，即1000 TPS，代表模型每秒钟能够生成1000个词元。大致换算，这约等于每秒生成750个英文单词或上千个汉字。为了让用户更直观地理解这一速度，官方将其与一些常见场景进行了对比。

性能对比：远超常规与顶尖水平

普通大模型的输出速度通常为每秒50至130个词元，这与人类正常朗读的语速相近。而国内部分顶尖大模型的输出速度可达每秒约400个词元，已经类似于快速播报新闻的语速。小米此次推出的UltraSpeed模式，将输出速度提升至每秒1000个词元。这一速度约为人眼阅读速度的200倍，几乎可以在眨眼间生成一整页A4纸的内容。

核心技术：量化、解码与推理系统协同

要实现如此高速的推理，背后离不开多项关键技术的协同配合。首先，小米采用了FP4量化技术。具体来说，这项技术并没有对整个模型进行均匀压缩，而是只对精度最不敏感的MoE专家模块进行压缩，其余部分则保留原有精度。与此同时，通过量化感知训练，在压缩过程中同步进行精度补偿，从而在大幅缩减模型体积的同时，尽可能维持其核心能力不受明显影响。

其次，DFlash投机解码技术也发挥了关键作用。该技术让小模型并行“预测”整个词元块，然后交由大模型进行无损验证。如果小模型“猜对”了，结果就被采纳；如果“猜错”，则会被打回重来。最终生成的结果与原始模型完全一致，但验证方式从“逐字确认”转变为“整块确认”，从而大幅提升了整体生成效率。

此外，TileRT推理系统通过常驻内核和异构流水线设计，最大程度地消除了微秒级运算中计算步骤之间的启动延迟、等待时间和数据搬运等间隙。这套系统在不改变最终计算结果的前提下，充分挖掘了硬件潜力，保证了推理过程的高效与流畅。