在AI可解释性讨论越来越热的今天,如何让大型语言模型(LLM)的推理过程不再像“黑匣子”?思维链(Chain-of-Thought, CoT)技术提供了一个很有价值的思路。这篇文章其实去年12月就写好了,一直躺在草稿箱里,现在还是发出来吧——写都写了。

01 COT是什么?
链式思维(Chain-of-Thought, CoT)是一种专门用来提升大型语言模型(LLM)推理能力的技术。 它的核心思路,就是让模型在输出答案之前,先把思考过程拆解成可见的中间步骤。
这个概念最早由Google AI的研究人员在2022年的一项研究中提出。他们发现,在解决数学文字题这类任务时,CoT提示词(Prompt)效果非常显著——比起直接让模型猜答案,先展示解题步骤和公式,模型的表现会好上一大截。后续的大量实践也反复验证了这一点。
大型语言模型天生擅长预测下一个词,但让它们做需要多步推理的任务,往往力不从心。这时候就需要借助提示词工程,来引导GPT-4o、Claude Sonnet 3.5/3.7这样的模型给出更好的答案。思维链提示(CoT Prompt)正是这类方法中的佼佼者——你给模型提供几个示例,示范如何分步推理:识别关键信息、应用规则、得出结论……模型在输出时就会模仿这个思考流程。
传统的AI训练更像一个“黑匣子”:你扔进去一堆电影评论,它直接告诉你“正面”或“负面”。CoT则不同,它会把内部推理过程一点点拆开,让你能看到模型是怎么想的。
思维链提示的核心目标是兼顾清晰、创造力以及连贯性展示
教AI跟教侦探破案很像——你不能只说“找出罪魁祸首”,而是要用几个案例手把手教他分析现场。给AI提示时也一样,别只丢一句“识别情绪”,得给出具体例子,告诉它怎么看文字、分析用词、结合上下文,最后才判断情感。
思维链提示(CoT Prompt)有时候也被叫作“回答模板”(response_format)。我觉得这个说法更容易理解:就是告诉模型一个固定的回复格式,这个模板越完整、逻辑越周密,收到的回复就越详细。不过这种模板通常是在技术层面内置的。下面是一个简单的示例:
代码示例:
比如你想让AI算一道数学题:“小明有12块饼干,吃掉了4块。还剩多少块?”你可以这样教它:
第一步:“小明一开始有多少块饼干?”
第二步:“小明吃了多少块饼干?”
第三步:“怎么计算剩下的饼干数?”
如果问AI问题得到的答案总是不太满意,不妨在提问后面加一句:“Let's think step by step”(让我们一步一步思考)——这句话能有效引导模型的推理过程。比如跟AI学习“量子物理学”时,你可以说“让我们一步一步思考:解释量子物理学”,效果会好很多。
02 自动思维链(Auto-CoT)
自动生成CoT提示(LLMs self CoT):想象一下,你不需要再手把手教模型怎么思考,而是让AI自己学会自动编写CoT提示,再反哺给模型。这能极大节省开发人员和研究人员的时间精力,尤其是在处理复杂推理问题时。
这是一种让AI从之前提供的示例中找出规律的模式,自动将这些模板(Format)应用到新问题上。相当于AI“参考”自身经验,让提示能够适应新的情况,产生类似自我提示的效果。
借助Auto-CoT技术,AI系统甚至能解决那些连资深NLP工程师都头疼的问题。比如,AI可以逐行调试复杂的代码,并在每一步解释推理过程;或者利用清晰的思维链来分析金融市场的动态。
CoT技术还让AI系统能持续学习和迭代。通过分析自己的推理过程和结果,AI可以找到不足之处并逐步改进。这样一来,AI就能像人一样不断进步,为“终身学习”的新一代系统奠定了基础。
OpenAI在12天碎片化直播的第一天发布的System Card里,也提到了模型自带CoT的特性。写这篇文章那会儿DeepSeek还没现象级爆火,后来DeepSeek把大模型的推理思维链完整展示出来了——思考的力量果然强大。
03 展示CoT的「阶段」——Loading过程
AI的Loading过程:展示CoT的「阶段」
当我们在和AI对话时,如果能看到它思考到哪一步了,会大大提升对输出内容的信任度。遇到输出较慢的场景,这个Loading过程也能作为中间反馈,避免用户干等。因此,对话前的加载状态(Loading)其实是一个非常必要的设计。
Minimax在这方面从一开始就做得特别好,拿它举例。以下Loading中的每一步,都是根据回答用户Query所需要的思考步骤依次出现。尝试了好几次才截成功,有几个状态由于太快没抓到——不过这也能说明,状态多了并不会影响输出速度。
「我正在尽全力搜索」
