MiniMax M3在百万Token上下文的规模下，单Token的计算量仅相当于前一代模型的约1/20，预填充速度提升了9.7倍，解码速度提升了15.6倍——这并非工程优化带来的边际改进，而是底层注意力机制被彻底重构后实现的物理级算力成本降低。

传统Transformer为何在长文本处理中遭遇算力瓶颈？

全注意力机制的计算复杂度为O(n²)，这意味着当上下文长度从1万Token扩展到100万Token时，理论计算量将激增1万倍。在实际应用中，模型不得不在显存占用、响应延迟和精度表现之间反复权衡：要么截断上下文，要么降低批处理大小，要么采用潜空间压缩以牺牲语义保真度。

这一问题已不仅是性能瓶颈，而是数学上的固有局限——所有基于标准Attention机制的模型都难以摆脱这个平方律带来的计算代价。

MSA架构的双分支设计：先锁定关键内容，再高效计算

MiniMax并未采取渐进式改进，而是通过MSA（MiniMax Sparse Attention）将整个注意力计算流程拆分为两个独立阶段：

索引分支（Index Branch）

该分支采用轻量级的单头Key与Block Max Pool技术，能够在毫秒级别内对全局百万Token进行粗筛，仅锁定Top-K个最相关的KV数据块。索引分支不参与最终的生成过程，仅输出“应当关注哪几页”的指引，计算开销几乎可以忽略不计。

稀疏分支（Sparse Branch）

该阶段仅在索引分支选出的K个数据块上执行标准GQA（分组查询注意力）。其余超过93%的KV对被完全跳过，既无需加载进显存，也不参与任何矩阵运算。

值得注意的是，MSA全程使用原始KV数据，不进行任何潜空间映射或量化压缩——实现精度零折损的前提，是彻底放弃“全量扫描”这一工业时代的固有做法。

DeepSeek的NSA架构为何未被M3采用？

有观点提出，DeepSeek的NSA架构是否提供了更成熟的思路？为何M3不直接复用？实际上，这一选择背后反映了三条技术路径的真实权衡：

在技术路径上，DeepSeek NSA包含压缩路径、选择路径与滑窗路径三条线，而M3仅保留了纯选择路径——这一选择并非偷懒，而是基于兼容性的审慎判断。vLLM与SGLang等主流推理框架对压缩路径的支持尚不稳定，强行接入可能导致部分CUDA算子回退至CPU，反而拖慢整体吞吐性能。

训练稳定性同样是不可回避的考量。在OmniBench多模态文档测试中，启用压缩路径后，跨页表格引用准确率下降了11.3%，这说明非线性压缩会破坏视觉-文本对齐的几何结构。在实际操作中，为追求理论峰值而强行引入压缩路径，会在真实Agent任务中暴露工具调用链断裂的问题——这才是放弃该方案的关键原因。