自o1与R1系列模型问世以来，推理模型似乎养成了一种“过度思考”的习惯。尽管业界已在早退策略与引导控制方面投入了大量研究，但开源权重的小型推理模型仍然倾向于在给出最终回答前，生成冗长的思考链。我始终在思考：这些思考过程中，有多少是模型在已知答案后仍产生的冗余计算？又是什么机制最终促使模型停止思考？

核心发现

• 推理模型在得出答案后，往往仍会延续一段长时间的思考过程。
• 在Qwen3-1.7B模型上，针对GSM8K数据集，绝大多数被正确解答的问题，其答案在思考链进行到约一半时便已确定。
• 模型做出停止思考的决定（即输出标记）的权利，可追溯至一个位于网络末端的微型MLP层组，我们称之为“终止回路”。
• 该回路实现了一个“验证门”：只有当模型写出的答案与其内部计算出的结果一致时，才会停止思考。
• 这个验证门并不存在简单的“操纵手柄”。没有一个单一的干预方向能够可靠地使其提前触发。

该论文目前仍在arXiv的“待定”状态，我在此先行公开以供参考。实验代码可在此处获取。

模型究竟何时已掌握答案？

为探究模型在思考链的哪个阶段已掌握答案，可将其思考过程在不同位置截断，并添加“最终答案是：”等提示，强制模型输出答案。我们将“最早能让模型在提示后给出正确且稳定答案的那个截断点”，定义为模型“已知答案”的时刻。

有时，模型甚至无需思考就能获知答案，例如在GSM8K这类问题上。为排除这一干扰，我们将问题A与另一道完全无关的问题B的推理过程进行配对。结果发现，当推理过程与问题不匹配时，强制回答的正确率大幅下降。这表明，正确的答案确实源自模型自身的推理链路。

从中位数来看，模型通常在思考链进行到30%时便已算出答案。剩余的70%思考时间，在很大程度上属于“空转”。

那么问题来了：若模型早已知道答案，为何不早点停下来呢？

那么，决定停止时机的因素是什么？

通过分析标记被发出那一刻的logit组成，我们发现这一决定具有高度的“局部化”特征。

• 单一MLP层（第27层，共28层）贡献了约40%的logit。
• 前8个贡献最大的组件（主要为MLP层）贡献了71%。
• 注意力头对此几乎未作出贡献。

相应地，的生成并非一个渐进过程。在整个思考过程中，包括在模型已“知道答案”之后，停止的边际信号均处于深度负值。它仅在模型写出最终答案句子的那一刻，才猛然跳升为正。

这个由少数MLP层及其输入层构成的微型网络，我们称之为“终止回路”。

它是个验证器，而非一个“够不够”的检测器

归因分析仅能揭示logit的来源，但要理解该回路究竟在计算什么，还需依靠因果干预。

我们进行了一项实验：将每个样本自身的最终答案句子（如“所以最终答案是\boxed{723}。”）剪裁下来，插入到其思考过程的中间位置（即模型已知答案的点之后）。

结果颇具启发性：当插入的答案为模型自身计算出的正确答案时，94%的样本中，模型的下一个贪婪生成token即为。若插入的是同一句子但数字被修改，该比例骤降至8%。若答案句子放在已知答案点之前，概率为16%。插入另一道题的答案，概率为19%。而插入一个随机答案，概率则为0%。

仅格式正确并不足够，即使值正确但时机不当也不行。两个条件必须同时满足：一个答案句子出现在上下文中，且该句子中的答案与模型内部已计算出的结果一致。

进一步实验表明，若在该回路中（句子边界处）消融前4个MLP层，模型将陷入“无法停止”的境地，但推理内容依然连贯（困惑度几乎不变）。此外，若将真实停止点的触发状态移植到思考过程早期的某个句子边界，停止决策在99%的案例中均能成功转移。

为何引导控制效果不佳？

若停止决策是一个随时间累积的简单标量，理论上应能通过残差流中的一个方向加以控制。我对此进行了大量测试。

结果，我所构造的任何单一方向均无法在正常的思考中途触发验证门。最佳单一方向也仅能恢复约20%的完整内部状态移植效果。该门仅在已接近触发阈值时（如恰好位于一个答案句子之后）才能被轻微推动。强力的方向干预甚至能在一定程度上覆盖值验证，但无法直接操作该机制的核心。

触发停止的信号，更像是一个高维模式，而非一个可调节的旋钮。

泛化性如何？

这个位于网络末端、由MLP层构成的验证门，在Qwen3-8B与Magistral-Small-24B模型处理MATH-500问题时同样复现，且大致位于相同的相对深度位置。并且，这些模型普遍存在“过度思考”的显著鸿沟。

那么，为何过度思考会发生？

终止回路并不衡量推理是否充分，它仅验证一个非常狭窄的条件：“模型刚刚是否陈述了一个答案？且该陈述的值与其内部计算出的值是否匹配？”

模型的架构中没有任何机制强制其尽早陈述答案。因此，即使答案早在思考早期便已确定，模型仍会继续推理，直至它在后续某个时刻碰巧将答案写下来。随后，验证门开始工作，确认无误后停止思考。

这解释了为何“过度思考”如此顽固，也解释了为何许多现有干预方法仅能带来微小的提升。

结论与启示

若希望推理模型更早停止以减少计算浪费，最直接的杠杆便是：设法让模型更早地陈述其候选答案。一旦它陈述出口，验证回路便会自动完成其设计好的工作——验证并停止。

直接引导内部状态之所以困难，根本原因在于该验证门是一个高维模式，而非一个简单的标量方向。