游乐游手机版
首页/AI热点日报/热点详情

Claude5遭越狱全球封杀令禁止使用

类型:热点整理2026-06-15
如果要从2026年AI行业里选出一件最具戏剧性的事件,Anthropic Claude Fable 5的闪电下架,无疑毫无悬念地占据首位。 6月9日,这款被誉为“史上最强AI”的模型刚刚登场,全球开发者与科技圈的目光仍聚焦于此,仅仅72小时后,美国政府便以国家安全为由,对这两款模型下达了出口管制。

如果要从2026年AI行业里选出一件最具戏剧性的事件,Anthropic Claude Fable 5的闪电下架,无疑毫无悬念地占据首位。

6月9日,这款被誉为“史上最强AI”的模型刚刚登场,全球开发者与科技圈的目光仍聚焦于此,仅仅72小时后,美国政府便以国家安全为由,对这两款模型下达了出口管制。

此次管制力度远超以往。不仅美国境外的个人和机构被禁止访问,就连身处美国境内的外籍人士——甚至包括Anthropic自己的外籍员工——也同样受到限制。

由于技术上无法快速精准识别每位用户的国籍,Anthropic索性采取“一刀切”措施:两款新模型全面停止服务,所有请求自动降级为前代版本。所幸其余模型服务暂时不受影响。

这场风波的起因,是一个引发双方激烈争议的模型越狱漏洞,以及由此触发的AI安全与商业利益之间的剧烈交锋。当模型能力强大到足以被视作“网络武器”时,关于安全、自由与商业的一切传统规则,都必须被重新审视。

从巅峰到冰封,72小时的极速坠落

6月9日,Anthropic在万众瞩目中发布了其里程碑产品——Mythos级大模型。Claude Fable 5作为首个面向公众的Mythos级产品,几乎在所有基准测试中都大幅领先于对手。

在SWE-Bench Pro编程测试中,它取得了80.3%的高分,大幅超越GPT-5.5的58.6%。而在更贴近真实工程场景的Frontier Code Diamond测试中,29.3%的成绩对比GPT-5.5的5.7%,已不再是同一代技术的竞争,而是代际间的全面领先。

这种强大性能也得到了端到端开发者工具厂商的官方认可。代码编辑器Cursor的CEO迈克尔·特鲁埃尔表示:“Claude Fable 5是CursorBench上的顶级标杆,它解决了此前所有模型都无法搞定的一类长周期问题。”

GitHub首席产品官马里奥·罗德里格斯同样大加赞赏:“Fable 5是GitHub服务开发者群体向前迈出的坚实一步。在我们的早期测试中,它以远超以往所有基准的自主性和可靠性,完成了复杂的长期编码任务。”

Anthropic当时颇为自豪地声称,任务越长、越复杂,Fable 5的优势就越明显。为了平衡性能与安全性,公司为Fable 5部署了层层“安全防护栏”。当用户查询网络安全等敏感主题时,系统会自动切换至能力次强的Claude Opus 4.8进行响应。这些防护栏采用保守调校方案,虽然偶尔会误拦无害请求,但平均触发概率控制在5%以下。

同时,公司还推出了一个不带安全防护的Mythos 5版本,通过与美国政府合作的玻璃翼计划,向少数网络安全防御人员开放。

漏洞发现与CEO的强硬拒绝

美国东部时间6月12日晚5点21分,Anthropic接到了美国政府的出口管制指令,要求即刻暂停所有外国人对Fable 5和Mythos 5的访问,无论他们身处美国境内还是境外。

公司在官网首页置顶了紧急公告:“美国政府以国家安全部门为由,下达了出口管制指令,暂停任何外国人(无论在美国境内还是境外)访问Claude Fable 5和Claude Mythos 5。该命令的最终效果是,我们必须紧急禁用所有客户的Fable 5和Mythos 5,以确保合规。访问其他所有Claude型号不受影响。对于给客户带来的干扰,我们深感抱歉。我们认为这是一个误解,目前正尽快恢复访问。”

据美国总统科学技术顾问委员会联合主席、前白宫人工智能事务负责人大卫·萨克斯的详细披露,事件的直接诱因,是一个能绕过Fable 5所有安全防护栏的越狱漏洞。该漏洞由一位同时为Anthropic和美国政府工作的可信第三方合作方发现。

美国政府随即要求Anthropic CEO达里奥·阿莫迪要么立即修复漏洞,要么暂时下架模型。但令人意外的是,阿莫迪断然拒绝。

萨克斯透露,美国政府其实是不情愿才采取这一措施的。政府方面对Anthropic不配合如此合理的安全要求感到十分意外,认为这与Anthropic一贯标榜的“安全优先”品牌形象和核心价值观严重不符。

他同时强调,此次行动与Anthropic此前和国防部的争议完全无关,政府仍然高度认可Anthropic的技术能力,并认为问题虽然严重,但原本可以妥善解决。如今,主动权已完全掌握在Anthropic手中。

什么是模型越狱?它为何如此致命?

在AI领域,模型越狱指的是通过巧妙设计的提示词或技术手段,绕过AI系统内置的安全防护和内容限制,使其生成原本禁止的内容或执行原本限制的操作。

对于普通AI模型,越狱可能只是让其生成一些不当言论或虚假信息。但放到Fable 5这种Mythos级模型身上,结果则天差地别。正如萨克斯所说:“Fable本质上就是加了防护的Mythos,一旦防护被突破,就等于把Mythos及其强大的网络攻击能力,完全暴露给了那些不该拥有它的人。”

问题的关键在于,Anthropic自己曾高调宣称Mythos属于“网络武器级”模型,应按此类别接受严格监管。他们主动向政府请求对Mythos实施管制,并强调Fable的安全防护栏是其能够公开发布的唯一前提。也正因为如此,这次漏洞才让美国政府如此重视——既然你亲口承认这是武器,那武器的安全锁被撬开了,你却轻描淡写地表示“没事”,这样的逻辑难以令人信服。

谁在说谎?

对于这个漏洞的严重程度,双方展开了激烈的论战。

Anthropic在长达数千字的官方声明中详尽阐述了自己的立场。公司表示,政府的信函没有提供任何具体的国家安全细节,他们认为政府的担忧是基于一个“狭隘且非通用”的越狱方法。“我们审查了这个特定技术演示,它只能识别少量已知且轻微的漏洞。这些漏洞都非常简单,我们发现其他公开可用的模型在不需要越狱的情况下同样能发现它们。”

Anthropic强调,在Fable发布前的数周里,他们与美国政府、英国人工智能安全研究所、多个第三方机构以及内部团队合作,对安全防护栏进行了总计数千小时的红队测试。这些测试表明,Fable的安全防护栏比以往任何已部署模型都更加有效。没有任何测试人员能找到一个通用越狱——也就是那种能广泛绕过防护栏、解锁大量网络能力的方法。

公司还指出,他们早就明确表明,目前没有任何模型提供商能做到完美的越狱防护。他们采用的是纵深防御策略,目标是使越狱要么范围极窄,要么成本极高,并结合全方位监控来快速发现并阻止任何成功的攻击。这也是他们要求保留客户数据30天的原因。这个政策变化虽然带来了客户成本,但能让他们研究并缓解越狱问题。

Anthropic认为,因为一个非通用的小缺陷就下架一款服务数亿用户的产品是不合理的。如果这个标准在全行业推广,那么几乎所有前沿模型提供商的新模型部署都将被叫停。

但美国政府完全不认同这套说辞。萨克斯直言不讳,难以理解他们竟然能声称一个能让“网络武器”生效的越狱漏洞“不严重”。

据知情人士透露,美国政府之所以反应如此强烈,部分原因是担忧一个与中国有关的组织已通过该漏洞访问了Mythos 5的完整能力,存在模型被逆向工程或蒸馏的隐患。不过Anthropic方面表示,白宫在与他们的沟通中从未提及这一点。

AI监管的分水岭时刻

此事件背后,其实是整个行业一直面临的核心困境:当模型能力强大到足以影响国家安全时,企业还有没有资格单方面决定什么是“可接受的风险”?

Anthropic自认为拥有完善的安全体系,政府不应过多干预。但美国政府认为,只要存在一丝一毫的风险,就应该采取最严苛的措施。

截至发稿,双方仍在协商。当AI的能力强大到足以成为“网络武器”时,安全与自由之间的边界究竟应该划在哪里?这个问题,恐怕没有简单答案。

来源:http://www.bianews.com/news/details?id=239926

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。