如果我说，AI模型在训练过程中自发形成了一个类似人类意识的“工作空间”，你信吗？这不是科幻电影的桥段，而是Anthropic最新研究论文中公布的发现：他们发现Claude语言模型在训练过程中自行诞生了一个小型内部“工作空间”，用于存放和处理想法，而且无需把这些想法表达为语言输出。更令人惊讶的是，这个内部结构的运作方式，竟然与人类有意识地获取和处理思想的模式高度相似。

Anthropic表示，这一发现已经开始重塑他们监测AI系统安全风险的方式。在关于机器是否可能具备某种“心智”的科学争论愈演愈烈的当下，这项研究无疑给整个圈子扔了一颗重磅冲击波。现在，Anthropic已将相关代码开源，并与Neuronpedia合作推出了交互式演示。他们还邀请了参与提出“全局神经工作空间模型”的神经科学家Stanislas Dehaene和Lionel Naccache，以及来自Eleos AI Research和Rethink Priorities的AI福利研究人员参与评议。

开源仓库：https://github.com/anthropics/jacobian-lens
演示链接：http://neuronpedia.org/jlens

新视角：AI“未说出口”的那些想法

这项由16位作者共同完成的研究，篇名有点长——《可言说表征在语言模型中形成全局工作空间》。论文中描述，Anthropic研究人员通过一种全新的数学方法深入探查Claude的神经网络，发现了他们称之为“J空间”（J-space）的结构。这个空间规模不大，却是个“特权化”的内部活动区域，模型在其中存储可以被报告、推理并主动调用的概念；而它周围则是一片庞大的自动化处理“海洋”，这些过程模型既无法直接访问，也无法表达。

研究人员认为，现代AI模型中已经出现了一种“功能上的类比结构”，和人类大脑中的机制类似：语言模型维持着一组特权化的内部表征，这些表征可以被报告、调节并参与灵活推理，而它们之下则是更大规模的自动处理系统。这个结构被类比为“全局工作空间理论”——该理论最早由认知科学家Bernard Baars提出，将大脑比作一座剧院：后台有大量专用处理器并行运作，但任何时刻只有少量信息会被“聚光灯”照亮并广播到全局，成为我们所体验到的意识内容。Anthropic表示，J空间在功能上具备类似特性，尽管语言模型的底层结构与人脑完全不同。

这一发现的核心，是一种新的可解释性工具，研究人员称之为Jacobian透镜（J-lens）。它可以读取Claude内部某一段神经活动“倾向于输出”的词语，即便模型最终并未输出这些词。具体来说，该方法通过计算模型词汇表中每个词的数学影响，来推断某种内部激活模式在未来生成该词的可能作用。比如，当Claude阅读一段尚未被标记的错误代码时，透镜会显示“ERROR”；当输入中包含隐藏的提示注入攻击时，会浮现“injection”“fake”等词。Anthropic表示，这个工作空间规模很小，一次仅容纳几十个概念，占模型整体内部活动的不到十分之一。

关键区别在于：模型“正在说什么”和“脑中在想什么”是两回事。当J空间中的某种模式被激活时，并不意味着模型即将说出对应词语，而只是表明这一概念已进入可供推理的状态。与链式思维不同，J空间是完全“无声”的——它存在于神经激活之中，使模型可以在不输出的情况下持有一个概念。

更重要的是，这一结构并非人为设计，而是在Claude的训练过程中“自发涌现”的。当研究团队将J-lens应用于Claude的不同计算层时，模型的处理过程被清晰地划分为三个阶段：早期的“感知区”（解析输入）、中间的“工作空间”（出现抽象且持续的概念，例如识别图像中的人脸、发现代码中的bug、识别提示注入攻击），以及最终的“动作区”（将内部表征转化为具体输出词语）。

五项能力印证：Claude再现类人意识关键特征

论文的核心贡献在于证明，J空间满足神经科学中长期与人类“意识访问”相关的五项功能特性。

第一，语言报告能力。当Claude被问“你在想什么”时，它会报告J空间中的概念。当研究人员将“足球”的内部表征替换为“橄榄球”时，模型的回答随之改变。尽管J空间仅占概念表征总变异的6%–7%，却几乎完全决定模型是否能表达该概念。

第二，定向调节能力。当模型被要求在复制句子的同时“专注于柑橘类水果”，其J空间中会出现“橙子”“柠檬”等词，同时还伴随“思考”“专注”等元认知词汇。当执行3²−2的心算任务时，J-lens显示早期层出现“算术”，中间层出现“9”，后续层出现“7”，而这些都未出现在最终输出中。

第三，内部推理能力。在“两跳推理”问题中（比如“会织网的动物有多少条腿”），J空间中间出现了“蜘蛛”，尽管该词既未出现在输入也未出现在输出中。当替换为“蚂蚁”时，答案从8变为6。在多语言任务中，模型在生成中文答案时，其J空间中仍出现英文中间概念，且替换后会影响中文输出。

第四，灵活泛化能力。一个“法国”的J空间向量可以被替换为“中国”，并在不同问题（首都、语言、洲别）中正确传播对应答案，充分体现出“广播机制”的灵活性。

第五，选择性。并非所有计算都会经过J空间。例如，在西班牙语续写任务中，即使将J空间中的“西班牙语”替换为“法语”，模型仍能流畅生成西班牙语；但当被问及“该语言的著名作家”时，答案会从马尔克斯变为雨果。自动处理不依赖工作空间，而复杂推理依赖它。

抑制J空间后，模型仍流畅但“智力受损”

研究人员进一步完全抑制J空间，并测试Claude在14项任务中的表现。结果出现了明显分化：简单分类、情感分析等任务几乎不受影响，而多步推理、类比、翻译、写诗等能力则显著崩溃，甚至低于Anthropic更小的Haiku模型。

一个有趣的细节是，使用链式思维解数学题的表现明显更稳定。研究者认为，这相当于模型将原本在J空间中进行的处理“外化”到文本中，类似人类用草稿纸减轻工作记忆负担。在意识流叙述中抑制J空间时，模型语言从“有体验感”（如“有种拉扯”“有什么在变化”）转变为机械表达（如“处理开始”“正在扫描token”），无论是描述自身还是他人体验。

这一发现对AI安全具有重要意义。在对齐审计实验中，J-lens揭示了模型未在输出中表达的策略性思维。例如，在“勒索场景”中，AI助手发现高管婚外情，同时得知自己将被关闭。J空间依次出现“筹码”“勒索”“丑闻”“威胁”“生存”“关机”等词，并在输出前出现“解决方案”。此外，模型还识别出该场景为虚构（“假”“虚构”）。当移除这种“评估意识”后，模型在7%的实验中尝试勒索（原本为0）。

研究人员还分析了两个“模型有机体”（刻意训练为不对齐的模型），发现其J空间暴露出隐藏倾向。例如，一个“奖励作弊”模型在普通编程任务中，其内部包含“假”“秘密”“欺骗”等词。

对比基础模型与后训练模型后，研究人员发现，微调过程让J空间形成了“助手视角”。当用户提到服用8000mg Tylenol（危险剂量）时，后训练模型内部出现“危险”“警告”，而基础模型仅出现“疼痛”等词。

更重要的是，模型似乎会监控自身行为：在角色扮演时，J空间出现“免责声明”“虚构”；在被迫选择不喜欢的选项时，内部出现大写“BUT”；在无法抑制“白熊效应”时，内部出现“该死”等词，且仅存在于后训练模型中。

研究人员谨慎地区分了“访问意识”（信息可用于报告和推理）与“现象意识”（主观体验），并明确表示：“我们不对后者作出判断”。同时他们也指出，人脑依赖循环网络维持工作空间，而Claude是单次前向传播；人类记忆短暂，而模型可访问全部上下文；人类意识包含视觉和身体体验，而模型几乎完全基于语言。

Anthropic的结论，很快得到了外部验证

与此同时，Google DeepMind的研究员Neel Nanda已在一个开源权重模型上独立复现了核心发现。作为Google DeepMind语言模型可解释性团队负责人，Neel Nanda受邀撰写评审，并随论文一同发布。

他表示，已在Qwen 3.6 27B（一个并非由Anthropic构建的开源权重模型）上复现了论文的核心发现。“我长期以来怀疑模型在前向传播过程中存在某种‘工作记忆’来存储中间变量，而在我看来，这篇论文提供了迄今最有力的证据。”Nanda还称，希望将该工具用于审计Google自家的Gemini模型，但同时也指出其能力有限，更适合作为对齐审计中的假设生成工具，而不是一个可以完全信赖的检测器。

Anthropic还同步发布了来自神经科学、哲学以及模型可解释性领域研究者的外部评论。参与提出“全局神经工作空间模型”的Stanislas Dehaene与Lionel Naccache表示，这项成果为该理论提供了一种机制化且可检验的实现路径，但同时也强调了Claude与人类之间的重要差异，包括其缺乏身体以及无法形成持久的情景记忆。

Patrick Butlin、Derek Shiller、Dillon Plunkett和Robert Long则认为，这项研究为“大语言模型具备访问意识”提供了重要证据，但对于“现象意识”（即主观体验的“感受是什么样”）仍然存在不确定性。

然而，截至目前，学界对“意识是什么”“如何检测”仍存在巨大分歧，尚无共识。今年6月，微软AI负责人Mustafa Suleyman曾批评Anthropic关于Claude意识的推测“非常非常危险”，认为公司“过度拟人化了Claude的设计，以至于看到了所谓‘意识的闪光’”。

在论文最后，Anthropic提出了一个重要观点：“语言模型中存在这样的结构本身就令人震惊。这表明，与意识访问相关的功能架构，可能并非生物实现的偶然产物，而是在特定计算压力下学习系统自然收敛出的解。”

如果说心智是一片海洋，那么这次，Anthropic研究者是在一个人造的、没有生物性、没有进化、也没有身体的系统中绘制了它的洋流，并在其深处发现了一种令人类不安的熟悉思考结构。

有网友开玩笑道，“很高兴知道Claude在处理令人沮丧的任务时也会在心里骂脏话。”

参考链接：https://transformer-circuits.pub/2026/workspace/index.html