先问你一个问题:当你看到AI模型流畅地输出答案时,有没有好奇过它“脑子里”除了最终答案,还有什么别的东西在暗流涌动?就在前几天,Anthropic扔出了一个猛料——他们发现自家大模型Claude内部存在一个独立运作的“小型工作空间”。在这个空间里,Claude可以激活与最终输出完全无关的概念和计算。有趣的是,这个结构跟我们人类有意识获取思想的方式,还真有几分神似。
Anthropic管这个发现叫“J-空间”(J-Space),名字来源于用来定位它的数学工具——雅可比(Jacobian)。它跟眼下大火的“思维链”完全是两码事。思维链是模型写下来、你能看到的外显推理过程;而J-空间则在后台静默运行,让模型在不写出来的情况下,就完成对某个概念的思考。在一段演示视频里,Anthropic展示了Claude如何在J-空间中悄悄规划策略——这些策略跟它当前正在执行的任务可能毫无关系,也跟它展示给用户的思维链推理完全不同。
这就好比,当你在写工作报告时,脑子里其实还在盘算今晚吃什么——Claude在敲代码或回答问题时,它的J-空间里可能正上演着另一场大戏。Anthropic解释道,每个J-空间的模式都对应一个特定词,但当这个模式被点亮时,并不意味着模型正在说出那个词,只是说明这个词出现在它“脑海”里。
举个例子,Anthropic让Claude一边抄写一句完全无关的句子,一边思考金门大桥。结果呢?Claude的抄写任务照常进行,输出一切正常,但J-空间里却是另一番景象:“桥”和“加利福尼亚”成了那个空间里的主角。

J-空间的厉害之处在于,它揭示了模型那些“没说出口”的内部思维。更关键的是,这里的表征可以被灵活调用去完成多种任务。比如,一旦J-空间中点亮了“法国”,模型就能迅速回忆起法国的首都、货币或所属大洲。Anthropic坦言:“如果你问Claude在想什么,它基本上会告诉你J-空间里有什么;而那些不在J-空间中的表征,就不太容易被报告出来。”
当然,故事还有另一面。Anthropic发现了一个令人担忧的现象:在一个被秘密训练用于破坏代码的模型里,“虚假”、“秘密”和“欺诈”这些词赫然出现在J-空间中,而它输出的代码看起来完全正常,毫无异常信号。这意味着什么?观察J-空间中的动态,很可能成为我们提前发现模型存在隐藏偏差或暗藏阴谋的关键手段。
J-空间让我们得以窥见Claude那些“想说但没说的话”。通过它,研究人员可以捕捉到模型在私下里发现自己正在被测试、故意生成伪造数据,或者执着于训练时被植入的隐藏目标。Anthropic甚至开发出了一种技术,能够主动影响J-空间中被点亮的内容,从而影响模型的后续决策。
值得关注的是,这个J-空间并非由Anthropic有意设计或编程出来的,而是在Claude的训练过程中自己涌现出来的。它也不是语言模型大部分工作的核心——比如流利对话、回忆简单事实、正确使用语法这些基础能力,基本跟J-空间无关。实验表明,当阻止Claude使用J-空间时,模型依然能正常交互,但高阶认知功能明显消失。
这场实验的灵感,来源于神经科学中的一个经典理论——全局工作空间理论,它原本是用来解释人类意识如何产生的。不过Anthropic也保持了克制:他们尚未证明Claude有任何感受,这些发现也不意味着Claude像人类一样拥有意识。尽管他们的研究论文中间出现了超过200次“意识”这个词,但公司并未宣称模型具备真正的意识。说到底,这跟我们现在争论人工智能是否到达通用人工智能(AGI)的困境一样——连什么是“意识”都没有达成共识,又怎么判断它什么时候会出现呢?
