事情要从亚马逊CEO安迪·贾西的一通电话说起。据《华尔街日报》披露,贾西向美国财政部长斯科特·贝森特及其他政府官员反映,亚马逊的研究团队在使用Anthropic的Claude Fable 5模型时,发现了一个潜在风险:该模型可以被诱导输出用于网络攻击的技术细节。这个发现直接引发了美国政府对Fable 5和Mythos 5两款模型的出口管制禁令,而Anthropic在周五全球范围内停用这两款模型,恐怕正是这场风波的直接结果。

从公开信息来看,亚马逊对此事的态度相当谨慎。一位发言人在声明中表示,虽然“各国政府就潜在安全风险寻求我们的咨询意见并不罕见”,但公司不会“分享相关讨论的细节”。不过,该发言人同时证实,亚马逊云科技(AWS)也受到了此次模型停用事件的影响。这意味着问题并非孤立,而是波及到了Anthropic最大的投资方及其云服务生态。
IT之家6月14日消息显示,The Information与路透社也跟进报道,作为Anthropic的主要金主,亚马逊此前就已对该公司AI模型存在的安全隐患表达过担忧。这种“前期预警”在事后看来,显得格外意味深长。
更关键的细节来自一位重量级人物——美国总统特朗普的前人工智能事务主管、现任总统科学技术顾问委员会联合主席戴维·萨克斯。他讲述了事件背后的沟通环节:“一家同时受Anthropic与美国政府信任、可信度极高的合作方,发现了模型存在越狱漏洞。”他进一步补充说:“美国政府要求Anthropic首席执行官达里奥·阿莫迪修复该漏洞,或是下架相关模型,但遭到了阿莫迪的拒绝。”这个细节如果属实,就等于直接解释了为何最终走向了出口管制——行政干预下的最后通牒。
面对外界的质疑和政府的压力,Anthropic的回应也很有意思。他们在博客文章中辩称,此次引发美方担忧的相关功能,在其他多款公开可用的AI模型中早已存在。言下之意:这不是我们一家的问题,凭什么只针对我们?但问题是,当一家模型的能力强大到足以被武器化时,“别人也有”并不能成为免责的理由——尤其是在地缘整治敏感的当下。
这场风波背后,折射出AI安全治理的深层困境:技术边界在哪里,企业责任又该划到哪里?答案还在摸索中,但可以确定的是,这一次的停用事件只是开始,而非终局。
