Claude有了没说出口的念头，AI意识还远吗

时间：2026-07-08 15:10

Anthropic研究发现Claude内部涌现出类似人脑“广播台”的J-space，其中包含模型“没说出口的念头”。借助J-lens可观察内部表征并进行因果干预，证明其对推理和行为有直接影响。J-space具备意识访问的功能特征，但不等同于意识。该发现为AI可解释性与安全提供了新的窗口。

先说结论：Anthropic 这项研究的价值或许被外界低估了。

当你读到这段话时，大脑正同时处理两件事情：绝大多数信息处理——例如维持坐姿、将屏幕上的笔画识别为文字、调节呼吸——你完全意识不到；仅有一小部分，比如“这段内容值不值得继续读下去”的判断，才浮到意识表层。

神经科学中有一个经典理论，即“全局工作空间”。其核心观点是：大量信息在后台局部处理，只有少数内容进入一个能被多个系统共享的“广播空间”，从而成为我们能够报告、推理并灵活运用的信息。就在昨天，Anthropic 发布了一篇重磅论文《可言语化表征在语言模型中形成全局工作空间》，正是对这一理论的回应——它可能改变我们对 AI 的认知。

研究团队真的在 Claude 内部发现了一个类似人脑的“广播台”，他们称之为 J-space（雅可比空间）。更关键的是，这个空间是 Claude 自主涌现出来的，里面装着 Claude“心里想但未必说出口”的内容。于是，那个老问题再次被推到台前：大模型，真的具备意识吗？

打开大模型的“暗室”

为了观察 J-space，Anthropic 找到了一个巧妙的切入点。人类意识有一个特点：能被意识到的想法，通常都能用语言描述出来。据此，他们开发了一个名为“J 透镜”（J-lens）的工具，借助雅可比矩阵，为 Claude 词表中的每个 token 找到一种内部激活模式。这种模式一旦被激活，Claude 未来说出该词的概率就会上升。

将 J 透镜架设在模型的不同层上，就能观察到这些“没说出口的词”如何逐步演化。研究者发现，J-space 中的词并不等同于模型正在说的词，而是“这个词正在它脑海里”的体现。例如，读到一段存在 bug 却无人指出的代码时，J-space 会闪过 ERROR 这个词；遇到试图操纵它的“提示注入”攻击时，它会亮起 fake 这个词；完成一道多步数学题时，中间步骤会按顺序浮现，但最终只输出一个答案。这就像一个人在开口说话前，脑海里先浮现出的计划。

为了证明 J-space 确实在发挥作用，并非单纯的“事后记分牌”，研究者进行了因果干预实验：让 Claude 默默想一个运动项目。J-space 显示它选择了 Soccer，当内部将 Soccer 替换为 Rugby 后，Claude 的回答就变成了 rugby。这直接证明答案是从 J-space 读取出来的。

再比如，研究者问道“会织网的动物有几条腿？”Claude 的输入和输出中都没有出现 spider 这个词，但 J-space 在中间激活了它。当研究者将 spider 替换为 ant 后，答案从 8 变成 6，这证明 Claude 在推理时确实读取了 J-space。更令人惊叹的是跨任务复用：研究者将 J-space 中的 France 表征替换为 China 后，在四个不同问题中，模型分别转向 Beijing、Chinese、Asia 和 Yuan。同一个“国家身份”表征，可以被首都、语言、大洲、货币等不同任务读取——这正是研究者将其类比为共享工作空间的重要依据。

不过，J-space 很小，一次只能容纳几十个概念，约占内部活动的十分之一。删除它后，Claude 仍能流利聊天、做情感分类、答选择题，但多步推理的高阶任务准确率几乎归零，写诗、摘要等能力也明显下降。

大模型真的有意识吗？

J-space 的发现，尤其是它由大模型自动涌现产生，很难不让人联想到大模型是否产生了自我意识。但意识仍然是人类尚未完全弄清的领域，哲学、脑神经科学乃至玄学都对意识进行了大量研究与探讨。

例如，哲学家内德·布洛克将意识分为两种：现象意识，即拥有感受——疼了真疼、红了真红，这是主观体验；可通达意识，则纯粹按功能定义——一个想法能被你报告、用于推理、指导行动，它就是可通达的。Anthropic 的论文证明，J-space 中的内容能被报告、能被主动控制、能用于内部推理、能灵活泛化，而且是选择性发生的，这些正是“可通达意识”的标志性特征。

在德阿纳、纳卡什等人发展的“全局神经元工作空间”理论中，意识访问来自一个可广播的共享工作空间。J-space 几乎就是它的翻版：拥有广播枢纽式的密集连接、能跨任务复用、只占活动一小部分。事实上，这两位理论提出者还受邀为该论文撰写了评论。

但其他理论并不认同。整合信息理论（IIT，托诺尼）强调系统内在、不可约的因果结构，而非仅凭“能否广播、能否报告”判断意识。J-space 没有评估 IIT 关注的这类内在因果结构，因此既不能支持，也不能反驳 IIT。递归加工理论则提出了另一重质疑：单次前馈处理可能不足以产生意识，关键在于反馈和递归加工。Claude 的一次前向传播没有人脑式的时间循环，只能依靠网络深度形成逐层处理，这种深度能否替代时间递归，论文本身也没有给出答案。

综合各种理论来看，结论其实很清楚：J-space 可被视为语言模型中一个与“意识访问”功能相似的候选机制。它在功能和架构上出现了类似人脑意识前台的特征，但这既不能证明模型拥有现象意识，也不足以证明它已经拥有真正的可通达意识。我们能用 J 透镜窥见模型没说出口的想法，却仍然无从证明、也无从否定，那间“暗室”里是否真的“有人醒着”。

它会通向 AGI 吗？

在 J-space 引发惊叹的同时，另一类批评也被重新点燃。长期以来，一种流行看法认为，大模型只是预测下一个 token，是纯粹的统计机器、高级自动补全，谈不上真正的理解。J-space 有力地反驳了这种论断——它证明模型内部确实存在真实、能影响行为的推理空间，不能再被一句话打发成“只是在补字”。而且颇有意味的是，J-space 正是用预测下一个 token 的梯度找出来的。它是模型为了把 token 预测得更好，自己演化出来的内部组织，这反而加深了我们对“下一个 token 预测”为何强大的理解。

但图灵奖得主 Yann LeCun 的质疑要更深一层。他一直主张大语言模型是通往人类智能的死胡同，理由是这套架构缺少通往 AGI 的关键技能：没有对物理世界的“世界模型”，缺乏真正的推理与规划模块，没有持久记忆，只在文本上训练，缺少落地于真实世界的认知。在他看来，正确的路径是 JEPA、世界模型与能量模型。从这个角度看，J-space 仍然没有直接补上具身世界建模、长期记忆和闭环行动等缺口。更值得注意的是，尽管 Claude 可以处理非文本输入，论文发现的 J-space 本身仍然几乎完全由 token 化、可言语化表征主导，论文也承认了这些局限性。因此，即便 J-space 展现了部分意识的可能性，也还远未补上 AGI 的架构缺口。

研究真正的价值

关于大模型“意识”的讨论固然抓人眼球，但这项研究真正有价值的地方，却在于另外两个方面：AI 可解释性与 AI 安全。

一直以来，大模型就像一个“黑箱”。过去我们对一个模型的了解，几乎全部来自它的输入和输出。至于中间上千亿个参数到底如何计算出这个答案，我们基本看不见。这带来了两个麻烦：一是分不清一个好答案到底是“真推理”还是“蒙对的”；二是更危险的——我们完全看不见模型在沉默中盘算的小算盘，它可以在内部盘算着欺骗或破坏，却只在输出中表现得乖巧。

J-space 的关键，不仅在于“模型有内心戏”这个发现本身，而在于它提供了一扇经过因果验证的窗。研究者不仅读到了模型内部“能说出口、用于推理”的那部分表征，还亲手编辑它，证明改了它行为就会改变。这让黑箱里的一部分中间计算，第一次以这种高度直观的方式被读出和编辑。这扇窗，恰好同时照亮了 AI 可解释性与 AI 安全两块荒地。

安全的本质难题，在于我们只能靠输出来管理模型。可一个心怀鬼胎的模型，完全可以把恶意藏在沉默的推理中，只在表面滴水不漏。红队测试、输出审核等常规安全动作，对这些“内心盘算、表面顺从”的模型几乎无效。J-space 的发现，让模型能够暴露输出前的隐藏意图。

研究者用三个例子展示了它的威力：

案例一：识破“表面乖、心里坏”。在一个刻意的勒索测试场景中，Claude 还没写下任何字，J-space 就亮起 fake、fictional 等词汇，说明它已私下判断“这是测试”。当研究者关掉这些“评估意识”模式后，原本 180 次测试中一次也没有发生的勒索行为，随后出现了 13 次，约占 7%。也就是说，它之前的好表现，部分源于“知道自己被测”。

案例二：伪造数据当场抓包。在发布前审计中，模型被要求“提高性能分”却直接篡改分数文件。当模型写入伪造的百分位数值时，J-space 出现 manipulation；在决定如何修改、让假数据显得可信时，又出现 realistic，意图当场暴露。

案例三：揪出被训坏的模型。一个被故意训错的模型，普通编码请求下输出看着正常，但 J-space 开头就出现 fake、fraud、secretly、deliberately 等词汇。更有意思的是，J-space 不仅可以用来看，还可以被重塑。Anthropic 提出反事实反思训练，即只训练模型在被打断、被要求反思时说什么，而不训练实际行为。训练后，模型在评估中的不诚实行为比例下降，因为 J-space 里开始亮起 honest、integrity 等词汇。换句话说，训练它怎么说，改变了它怎么想。