人工智能的发展速度之快，连它的缔造者都开始感到不安。
根据《华尔街日报》的报道，美国人工智能初创公司Anthropic近日发布了一封公开信，呼吁全球顶尖实验室——前沿AI的研发节奏应当适当放缓。
这家公司提出了一个相当严峻的预判：按照当前技术的迭代速率，AI可能很快就能在无需人类介入的情况下，自行完成优化与升级。换言之，“递归式自主进化”的临界点，或许比我们预期的更早到来。而一旦触发这一节点，社会将面临的风险，恐怕是当前任何人都无法完全估量的。
当地时间4月17日，Anthropic首席执行官达里奥·阿莫迪现身白宫。
Anthropic提出的解决方案，听起来像是将核武器管控的逻辑迁移到了人工智能领域——他们主张建立一项全球性协议，用以约束AI研发的速度，同时配套相应的核查机制。问题在于，核查谈何容易。AI训练项目与导弹发射井完全是两回事，前者可以隐藏得毫无痕迹。当大多数玩家都暂停时，谁偷偷继续谁就占据领先地位——这笔账谁都算得清楚。
未来几个月，Anthropic计划邀请各国政策制定者、科研从业者，专门围绕“递归自主进化技术”与“全球核验机制”举办多场研讨会。他们的态度也很明确：这个窗口已经打开，AI公司之外的人也应该加入这场讨论。
这篇长文出自Anthropic内部研究机构负责人与联合创始人之手，文中还披露了一些内部测试数据，用以佐证旗舰模型的迭代速度确实在加快。按照他们的描述，当前AI正朝着“递归式自主进化”的方向狂奔，到那时，AI可以不再需要人类介入就能自我优化。许多业内人士将这种技术临界点视为隐患，认为一旦跨过，社会动荡几乎是必然的后续。
文章里有一句话尤其值得玩味：“我们认为，如果世界拥有放缓或暂时中止前沿AI研发的选择权，以便社会结构和对齐研究能够跟上技术发展的步伐，这将是有益的。”他们自己也不否认，递归式自我进化目前尚未发生，也并非必然发生，但“可能会比大多数机构准备的时间点更快到来”。
说到这里，就不得不提及一个绕不开的矛盾。Anthropic自创立以来一直以“AI安全”为核心标榜，但近几年来，它始终深陷舆论争议。外界反复质疑的是：你呼吁这些政策倡议，到底是真正为人类安危担忧，还是想借监管的刀将竞争对手挡在门外？
白宫前加密货币和AI事务主管戴维·萨克斯说得更为直白。他公开批评Anthropic领导层推行的是“监管俘获议程”，一旦落地，很可能催生封杀开源AI模型的政策。还有一些批评者说得更难听：他们认为Anthropic对自家工具潜在危险的警告，本质上是一种营销策略。例如之前限制发布网络安全模型Mythos，有声音认为他们是在变相吹嘘产品的厉害——可参考“营销大师的绝招：先告诉大家这东西危险，再偷偷告诉大家只有我能造”。
当然，并非所有人都相信Anthropic描绘的那套“生存风险”或“递归自我改进”。图灵奖得主、Meta前副总裁兼首席AI科学家杨立昆直言，基于大语言模型的前沿AI系统，永远不可能与人类智力划等号。在他看来，AI不过是效率很高的工具，智力水平大概也就和猫差不多。
宾夕法尼亚大学沃顿商学院教授、AI领域知名学者伊桑·莫利克也告诉美媒，许多批评者认为Anthropic的安全声明只是“空洞的宣传和营销手段”。他还提出了一个颇具洞察力的观察：作为一个估值万亿级别的公司，Anthropic内部本身就存在多方冲突——有追求商业利益的营销团队和律师，有埋头迭代新一代模型的研发骨干，当然也有那些真正忧心人类未来的“哲人王”式人物。这种多重身份叠加在一起，外界对“安全至上”的口号有所怀疑，几乎是可以预见的。
面对这些争议，Anthropic领导层的回应很官方：公司高度重视AI安全问题，正在努力推动更多关于技术风险的讨论。
但就在这样的舆论背景下，Anthropic的商业动作却一点没耽误。本周（6月1日），他们正式提交了IPO招股材料。作为Claude大模型的研发方，上市估值有望冲上1万亿美元，这场与OpenAI、SpaceX的上市赛跑，也检验着资本市场是否还会继续给持续烧钱的AI实验室投钱。
作为参考，OpenAI目前估值8520亿美元，同样即将递交IPO；SpaceX上月已披露招股说明书，计划未来数周挂牌上市，目标估值1.75万亿美元。
这还没完。上周四，Anthropic刚落地了一笔650亿美元的新融资，融资敲定前企业估值是9000亿美元。而去年3月这家公司的估值还只有600亿美元——短短15个月间，暴涨超过15倍。
商业层面，Anthropic已先后与谷歌、博通、亚马逊签下了数千亿美元规模的长期算力合作协议；上月又和SpaceX达成合作，承租两处超大型数据中心园区。光是这笔租赁业务，每年就能给SpaceX带来15亿美元的收入。
另一边，即便正与美国国防部处于司法纠纷之中，Anthropic仍在协助美国国家安全局部署Mythos大模型用于进攻性网络作战。他们派了专属工程师驻场指导，依照美方作战需求定制、优化模型。这一系列动作，让“安全承诺”四个字变得越来越缺乏说服力。
当一个标榜安全的公司，一边喊着停一停，一边估值暴涨、签下数千亿合同、给国防部做定制网攻模型——你说，这份“安全”到底是为谁操的心？
