游乐游手机版
首页/AI热点日报/热点详情

杨立昆批评AGI后 Anthropic发现AGI证据

类型:热点整理2026-07-07
AI这东西,挖得越深,越让人心里发毛。Anthropic在解剖Claude内部运作的时候,撞见了一个相当“AGI”的现象,但细想之下又有点后背发凉。 简单说,在Claude内部,存在一个被称作J-space的区域。它负责管控Claude的思考和推理过程。一旦J-space被关闭,Claude立刻退化

AI这东西,挖得越深,越让人心里发毛。Anthropic在解剖Claude内部运作的时候,撞见了一个相当“AGI”的现象,但细想之下又有点后背发凉。

简单说,在Claude内部,存在一个被称作J-space的区域。它负责管控Claude的思考和推理过程。一旦J-space被关闭,Claude立刻退化,只能回答幼儿园级别的问题。

但真正让人头皮发麻的还不是这个。关键是,Anthropic压根就没设计过这个J-space——从零开始都没有。一切都是Claude自己在漫长的训练过程中,自己“长”出来的。

他们为此发了篇论文,题目叫《语言模型中的全局工作空间》。整篇论文虽然探讨了J-space对Claude的影响,还专门做了个工具来观察它,但写到结尾,也没真正搞清楚J-space究竟是怎么冒出来的。

这就有点像咱们人体细胞里的线粒体。绝大多数细胞都靠它供能。可研究发现,线粒体一开始并不存在于细胞质里。主流理论认为它原本是一种独立的细菌,后来被更大的细胞吞进去,双方共生,最后成了现在细胞的一部分。可线粒体到底从哪来,仍然是个谜。

还没完。就在Anthropic这篇论文发表的前几天,杨立昆刚在X上狠狠怼了一把现在的AGI,说“AGI里的‘G’是胡扯”。

01

Anthropic在Claude里发现了AGI

要弄明白J-space是什么,得先从咱们自己说起。

你此刻在读这句话时,大脑其实同时在做好几件事:调整坐姿、控制呼吸、把屏幕上的线条认成文字。但这些事你根本感觉不到,它们都在后台自动运行。这个过程叫“无意识处理”。

可大脑里还有另一类活动,是你能意识到的。举个例子,有次开会,同事提了一嘴“机架”,因为临近午饭,我愣是听成了“鸡架”,肚子立马就咕咕叫了。这个过程叫“可访问意识”。

Anthropic发现,Claude内部也出现了类似的分界线。

大部分Claude做的事——比如流畅说话、查简单事实、用对语法——它都是自动处理,像你的呼吸一样在后台跑。但Claude内部还有一小部分活动很特别。它们不像普通后台计算那样分散,而是会集中到一个可以被读出来的“概念空间”里。Anthropic管这个空间叫J-space。

J-space里的每一个模式都对应一个词。但这个词亮起来的时候,不代表Claude正在“说”这个词,而是这个词“在它脑子里”。

这句话有点绕,举个例子你就明白了。比如你问Claude:“能结网的动物有几条腿?”它会回答8条腿。但研究者先在J-space里看到了“spider”(蜘蛛)这个词,然后Claude才根据蜘蛛有八条腿,回答你说8条腿。

还有一个特别关键的细节:J-space不是Anthropic设计出来的,是Claude在训练过程中自己长出来的。

他们用来观察J-space的工具叫“Jacobian透镜”,简称J-lens。Claude内部的想法不是文字,而是一大堆数字。J-lens的作用,就是把这些数字翻译乘人能看懂的词。

通过J-lens,研究者发现,Claude读一段有bug的代码时,即使没人告诉它哪里错了,J-space里也会冒出“ERROR”这个词;它读一串蛋白质的原始字母序列,J-space里会显示出对应的生物功能;读到搜索结果里藏着提示词注入攻击,J-space里会亮起“injection”和“fake”。

但最有说服力的实验,是“偷梁换柱”。回到蜘蛛那道题,研究者没改题目,只是把J-space里的“spider”换成“ant”(蚂蚁),Claude的答案立刻变成了“6”。另一个实验里,“France”在J-space里亮起来后,Claude能回答法国的首都、货币、所在大洲。研究者把“France”换成“China”,所有答案也都跟着变了。这说明J-space不只是记录结果,它直接参与了后续推理。

Anthropic总结了J-space的五个特征,每一条都对标了人类认知科学里“意识可访问信息”的性质:

1. Claude能报告J-space里的内容(你问它在想什么,它会说出J-space里的词)

2. 它能在要求下主动调动J-space(让它默默心算,J-space里就会出现算术过程和中间结果)

3. 它用J-space做内部推理

4. J-space里的一个概念能灵活地服务于多种任务

5. J-space是有选择性的,大部分Claude做的事根本不经过它

为了研究J-space的影响,研究者把它暂时关掉,发现Claude还能回答简单问题,比如认情绪、答常识、判断语法。但一遇到需要多步思考的任务——推理、类比、翻译、写诗——表现就大幅下降。简单说,J-space很像Claude的“草稿纸”,不用草稿纸的小事还能做,但需要草稿纸的复杂题就答不上来了。

种种迹象都指向一个结论:J-space和人类的思考方式有相似之处。但前面也说了,这不是Anthropic有意为之,甚至没做过类似的设计,一切都是Claude自发形成的。

说到这里,就不得不提AGI了。因为J-space非常像是Claude接近AGI的一种证据。过去判断模型是不是AGI,主要看外部表现:能不能做数学题、写代码、通过考试。但现在,Claude“长”出J-space的这种自发性,很可能才是真正的AGI。模型强,不只是因为它输出更像人,更因为它内部可能已经形成了某种可复用的思考结构。它能暂存概念、承接中间结果、把不同信息组织到一起、再影响后面的回答。就像人有眼睛鼻子嘴一样,J-space很可能就是AGI的一个“器官”。没有它,模型还会说话;有了它,模型才更可能把语言、知识和推理串成稳定的思考过程。

02

杨立昆在X上把AGI怼了个底朝天

好巧不巧。就在Anthropic发表J-space论文的前几天,图灵奖得主、深度学习三巨头之一的杨立昆,在X上把AGI这个概念怼了个底朝天。

时间线是这样的:2023年,杨立昆在巴黎的VivaTech科技大会上接受采访,公开说ChatGPT、Claude和Gemini“不是通向人类级智能或类人智能的道路,甚至连动物级智能都算不上,因为它们无法处理真实世界的数据,它们根本不是为此设计的”。到了今年6月的VivaTech,他又重复了这个论调。

7月4日,他在X上明确表示:“AGI里的‘G’是胡扯。”

杨立昆认为,会考试不等于有智能。硅谷的逻辑是:模型过了律师考试、数学竞赛、博士题、编程benchmark,所以接近AGI了。但在他看来,考试题是语言化的、离散化的、答案明确的任务,恰好是大语言模型最擅长的东西。可真正的智能还应该有感知、物理直觉、因果理解——这些源自常识的能力。

他举过一个例子:拿起一支笔,把它竖立在笔尖上,问“松手会怎样?”任何一个小孩子都知道笔会倒。但没有人会去猜笔往哪个方向倒——没法预测,取决于太多物理细节。一个大语言模型会怎么做?它会根据训练数据里的统计模式,生成一个看起来合理的预测。但那个预测几乎肯定是错的,因为它不是在推理物理现实,而是在做统计补全。

杨立昆认为,真正的Agent应该通过观察世界,学习世界如何变化,然后在内部做预测、做规划,最后采取行动。大语言模型虽然学到了大量语言和知识模式,但这并不是在理解世界本身,只是一个用来交互的界面而已。

2025年底,杨立昆离开Meta,创办了AMI Labs,总部在巴黎。2026年3月拿了10.3亿美元的种子轮融资——欧洲历史上最大的种子轮,投资方包括英伟达和贝索斯。AMI Labs做的事,就是用JEPA架构,让AI系统从感知数据中学习因果和规划。

还有一点:杨立昆不认为继续scaling会自动实现AGI。事实上,无论是OpenAI还是Anthropic,大家都认为继续堆算力、堆模型性能,AGI就会自动涌现。可杨立昆觉得这条路会撞墙——语言数据不够承载真实世界的全部,纯自回归预测也不是高效的推理方法。

最后,比起反对AGI,杨立昆更讨厌硅谷那种“AGI毁灭人类”的末日论。他经常给马斯克、辛顿、阿莫迪唱反调。不是因为他觉得AI永远没风险,而是他认为当前系统离真正自主的智能还差太远。把今天的大语言模型描述成即将失控的AGI,是严重给AI“抬咖”。基于这个判断,杨立昆还警告说:AI泡沫终究会彻底破裂。

不用猜也知道,杨立昆看到J-space的论文后,肯定又在暗地里骂阿莫迪没水平了。

来源:https://36kr.com/p/3885053630806919

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。