2025年5月29日，AI安全领域的领先企业Anthropic携手Decode Research和Neuronpedia，发布了一项令整个AI社区为之振奋的举措——正式开源了他们的“电路追踪”（Circuit Tracing）工具。这并非普通意义上的开源项目，而是意味着我们终于获得了一把钥匙，能够亲手打开困扰学界已久的“黑箱”，直观地观察大语言模型（LLM）在进行推理时，内部究竟在进行怎样的信息处理。
Anthropic首席执行官Dario Amodei曾直言不讳：我们对AI内部工作机制的理解，已远远落后于其能力增长的速度。而此次开源行动，正是为了弥合这一差距所迈出的关键一步。那么，这份技术细节究竟揭示了哪些核心内容？让我们一同深入探讨。
核心利器：归因图（Attribution Graphs）与“超级节点”（Supernodes）
想象一下，要理解一个复杂电子设备的工作原理，最直接的方式就是查看其电路图，追踪电流从输入端到输出端的路径，以及途中经过的各个元器件。Anthropic的这套工具所做的，本质上就是同样的工作，只不过分析对象变成了神经网络。
它生成一种名为归因图（Attribution Graph）的可视化图表，能够清晰勾勒出模型在生成特定输出时，内部信息进行因果传递的路径。图表中的每个节点，背后都可能代表一个或多个神经元的协同作用。
然而，模型内部包含数十亿个神经元，直接分析如同大海捞针。因此，这里引入了一个关键创新——“超级节点”（Supernodes）。研究人员通过分析，将成百上千个功能相似的神经元“打包”成一个具有明确语义概念的节点。例如，一个超级节点可能代表“德克萨斯州”这一地理概念，另一个则代表“输出一个首都城市”的操作指令。
经过这样的处理，原本杂乱无章的神经元激活图，就转化为一张清晰、易于理解的“思维导图”。而此次开源的核心亮点在于，它不仅让你能够“看到”这张图，还能通过代码直接干预（Intervene）这些节点——就像进行科学实验一样，去验证你的猜想。
实战演练一：当模型进行“两步推理”
我们来看Anthropic教程中的第一个经典案例。
提问： Fact: The capital of the state containing Dallas is
模型正确回答： Austin
这是一个典型的两步推理任务：第一步，达拉斯位于哪个州？——德克萨斯州。第二步，德克萨斯州的首府是哪里？——奥斯汀。归因图将这一过程完整地展示了出来。
从图中可以看到，输入里的“Dallas”激活了一个代表“Texas”的超级节点；同时，“capital”和“state”这两个词也激活了相应的概念节点。这些信息最终汇聚在一起，共同触发了输出“Austin”的神经元。
但真正的魔法发生在干预实验里，结果非常震撼：
- 关闭“首都”概念：研究人员通过代码，强行抑制了图中代表“输出一个首都”的超级节点。结果模型的输出不再是“Austin”，而是直接变成了“Texas”！这证明模型在推理时确实先想到了“德州”，只是因为“回答首都”的指令被关闭，它直接将中间步骤作为结果输出。
- 关闭“德州”概念：当“Texas”这个超级节点被关闭后，“Say Austin”节点也随之失效。模型变得有些困惑，开始输出其他州的首府，例如加州的萨克拉门托。
- 最令人惊叹的——“思维”劫持实验：研究人员保持原提问不变，关闭了“Texas”节点。同时，从另一个提问中提取了代表“California”概念的超级节点的激活值，并直接“注入”到当前模型。结果，模型给出的输出神奇地变成了“Sacramento”——加州的首府！他们甚至更进一步，注入了一个代表“China”的概念，模型的输出随之变成了“Beijing”。
这个实验有力地证明：模型内部的各种“概念”是模块化的，甚至可以像拔插U盘一样进行替换。它并非死记硬背，而是真正在学习并运用这些抽象概念，遵循着一套可以被我们理解和操纵的逻辑链条。
实战演练二：跨越语言的共享“大脑”
另一个引发深思的案例涉及多语言处理。
三语提问：
- 英语：
The opposite of "small" is "->big - 法语：
Le contraire de "petit" est "->grand - 中文：
"小"的反义词是"->大
模型是如何做到的？难道它为每种语言都单独学习了反义词电路吗？
归因图揭示了更深层的秘密。
模型内部存在一个与语言无关的、共享的核心电路。这个电路理解了“small”和“opposite”这两个抽象概念，然后推导出一个同样抽象的“big/large”概念。接着，由一些特定于语言的“开关”节点负责在最后输出时进行“翻译”。
干预实验再次证实了这一点：
- 处理法语提问时，如果研究人员强行关闭“French”节点，模型的输出立刻从“grand”变回英语的“big”！
- 更令人惊叹的是，处理法语提问时，关闭“French”节点，同时注入“Chinese”节点的激活值，模型的输出直接变成中文的“大”。
这说明，至少在反义词任务上，模型的核心逻辑是跨语言共享的，仅在最终输出时由特定语言的“模块”进行调整。这为我们理解AI如何形成跨文化、跨语言的通用表征提供了极其宝贵的线索。
不止于成功：局限性与未来的方向
当然，电路追踪并非万能。教程最后，研究人员展示了一个不太成功的干预案例（将“反义词”替换为“同义词”），效果不够理想。这也提醒我们，AI的内心世界依然错综复杂，并非所有概念都能被干净利落地解构。
但无论如何，Anthropic此次的开源行动，都是AI可解释性研究领域的一座里程碑。它提供了四大核心要素：一个可视化界面（Neuronpedia），让更多人能够直观地探索模型内部；一个强大的代码库，使研究者能够进行严谨的因果干预实验；一套可复现的案例，展示了从多步推理到多语言表征的惊人发现；以及一个开放的平台，邀请全球的AI爱好者和研究者共同参与，去发现和标注更多未知的电路。如果要给这次开源的意义做一个总结，那就是——从“炼丹”到“工程”。当我们能够像工程师分析电路图一样分析AI模型时，离构建更安全、更可靠、更可控的通用人工智能，就又近了一步。AI的“黑箱”正在被撬开一条缝，而这条缝里透出的光，足以照亮整个行业的未来。