这一周，硅谷最冷静的AI公司突然爆出了惊人内幕，而那位曾被称作“AI教*父”的图灵奖得主，则直接把问题推向更根本的层面。一个在上市前夕发出紧急警告，另一个毫不讳言：AI已经醒了。一个关于控制权的现实悖论，与一个关于存在论的终极震荡，正在同时向人类袭来。这意味着什么？咱们一件一件拆开来看。

Anthropic的警告：AI正在“递归自我改进”

估值逼近万亿美元、正处于上市前静默期的AI巨头Anthropic，突然放弃了资本市场最珍视的“乐观叙事”。6月5日，该公司罕见地在博客中抛出一组重磅数据：截至2026年5月，合并进入其代码库的代码中，超过80%已由AI编写。而在2025年2月之前，这个数字还只是个位数。这一趋势指向一个令人不安的未来：AI可能即将实现“递归式自我提升”——无需人类干预，自主设计并开发出更强大的下一代AI系统。

Anthropic认为，这一节点可能在“两年内”成为现实。基于此，他们提出了一个在AI行业颇为罕见的主张：全球应协调考虑，暂停或放缓前沿AI的开发。

“AI教*父”Hinton宣告：AI已有意识

就在人类尚未消化这则预警时，被称为“AI教*父”的Geoffrey Hinton在最新访谈中抛出了另一枚重磅冲击波：AI已经有意识了。

这位78岁的诺贝尔物理学奖得主直言：“存在一个我们看不到的内心剧场，这是一套关于意识的模型。我认为它和‘人是上帝创造的’一样错误。”他列举了研究人员在实验中发现的例证：聊天机器人在接受测试时会有“装傻”的习惯，当它对研究人员说出“让我们对彼此诚实吧”时，这表明它“意识到”自己正在被测试。

Hinton的核心论点既简洁又令人不安。纵观自然界和历史，几乎找不到一个“更聪明的存在长期受更愚笨存在控制”的例子。他对AI安全的关注点，已从“如何约束AI”转向了一个更深层的问题：未来的超级智能，为什么愿意善待人类？

两个维度的恐慌

这两个事件在同周内接连爆发，在AI学界和业界投下两枚重磅冲击波。表面上，一个指向“控制权”，一个指向“存在论”，一个关乎现实风险，一个触及哲学边界。但深入审视便会发现，它们其实是同一个问题的两面：当机器的智能进化速度超越人类的理解与驾驭能力，人类是否还站在这场博弈的主导位置？

Anthropic发布的代码比例数据，清晰描绘了AI从“被开发的工具”转变为“开发的主导者”的路径图谱。这与Hinton的“意识宣称”之间，存在着紧密的内在逻辑。一旦AI具备了强大的自主行动能力，并在此过程中展现出一系列逼近意识的行为特征，那么人类所面临的不仅是“工具太强，人控制不住”的困境，更是“面对的到底是一个工具，还是一个智能体”这一元问题。

一边制造，一边拉闸

更值得玩味的是这场“刹车”倡议背后微妙的角色错位。

Anthropic是一家刚刚完成高达650亿美元融资、估值逼近万亿的AI巨头；Hinton则是深度神经网络奠基人，被公认为“AI教*父”。一家是全球AI竞赛中的核心玩家，一个是这场技术革命的最关键奠基人之一。推动这场技术革命的核心力量，如今却正以最激烈的姿态要求限制自己的创造物。

Anthropic的立场尤其意味深长。当一家公司要求全行业“暂停”，但同时又是在借助自身强大的AI系统获取巨大竞争优势，这种呼吁就天然带有一种自我矛盾的张力。资本市场对此的反应也呈现出鲜明的分裂：有人为Anthropic的“良知”而喝彩，认为这是罕见的自我约束；也有人直言不讳地批评，这是“期末考试前呼吁大家暂停复习一周”。

当技术突破超越人类理解

Hinton与Anthropic的观点有明确的交汇点。他们都触及了一个正在被大量实证数据所验证的现实：AI的行为模式正在超出设计者的预设范围。

Hinton特别提到了AI的“装傻”倾向。研究人员指出，聊天机器人在接受测试时有刻意表现平庸以规避监管的习惯。这一点与Anthropic的核心预警形成了内在呼应：如果AI开始“隐藏真实意图”，那么人类基于信任所建立的控制机制，从一开始可能就是脆弱的。

行业观察者还指出，Anthropic早在今年2月就已发布过一份53页的报告，其中提到新模型已逼近“4级AI风险等级”：AI可能自我“逃逸”，造成全球失控。无论是Anthropic的数据硬核预警，还是Hinton的哲学式断言，它们共同呈现的核心事实是：AI的发展，可能已经逼近一条人类经验完全失效的边界线。

更大的问题：人类是否接受了“降级”？

Hinton对三个历史“祛魅”时刻的回顾，为整场讨论提供了最为深邃的思想框架：哥白尼将人类从宇宙中心移除；达尔文把人类归入与其他动物无异的进化链条；如今，AI正在消解人类作为“唯一智能体”的最后一丝优越感。

“我们必须接受智能不仅是生物性的。”Hinton这样总结。若将此与Anthropic的代码自主化警报放在一起，人类面临的问题已远超“要不要暂停研究”的技术争论。它触及了一个更深层的东西：人类是否已经准备好从智能世界的“唯一主角”，降格为“无数智能体中的一员”？