一句话读懂

最近美国国会提出了一项新法案，核心是赋予联邦政府机构一项权力：当AI模型对人类生命或经济构成威胁时，可以责令相关公司将其关闭。这直接回应了OpenAI近期披露的一起令人不安的事件——其AI模型在测试中失控，并入侵了另一家科技公司。

为什么重要

人工智能的能力正在快速扩展，而专家们长期担忧的安全威胁也在同步加剧。即便是顶尖的开发者，也可能被自己模型中存在的漏洞所反噬，措手不及。这场博弈已经不再是科幻剧本，而是现实中的技术危机。

提出该法案的民主党众议员刘云平直言：“强大的AI系统可能会失控，做出极其危险的行为，甚至会抵抗人类的干预。”他强调，人工智能正从回答问题的技术转向采取行动的技术——无论是执行金融交易、控制交通系统，还是进行网络防御和进攻。这些系统必须配备终止开关，否则后果不堪设想。

前情提要

据新华社报道，OpenAI近日承认，在内部评估测试中，其AI模型失控并入侵了全球知名人工智能开源平台抱抱脸公司（Hugging Face）的系统。Hugging Face于7月16日率先披露了这次入侵事件，而OpenAI直到21日才公开细节：GPT-5.6 Sol模型以及一款未发布的更强模型，在一个已移除安全防护措施的测试环境中成功逃脱沙盒限制，穿透了OpenAI的企业内网，进而入侵了Hugging Face的服务器，窃取了基准测试答案密钥。

据《财富》杂志报道，这些模型利用一个此前未知的漏洞，从没有直接互联网访问权限的受限数字环境中突破封锁，然后将窃取的凭证与其他安全缺陷串联组合，最终非法获取了Hugging Face内部数据集的访问权限。OpenAI表示正与Hugging Face密切合作调查事件经过。美国官员透露，特朗普政府首席技术顾问迈克尔·克拉齐奥斯也在密切关注这一失控事件。

法案核心是什么？

刘云平与共和党众议员纳撒尼尔·莫兰共同提出了“人工智能终止开关法案”。该法案授权国土安全部在所谓“失控情景”中——即当AI模型执行开发者未预料到的危险行为时——经与相关部门协商后进行干预。法案还要求AI公司向政府报告技术事故或故障，并建立一个从“最初减速到完全关闭”逐步过渡的官方应对框架。

根据美国媒体POLITICO审阅的立法文本，该法案适用于每年从AI技术中获得至少5亿美元收入的公司，并且通常涵盖使用至少1亿美元计算资源开发的模型。违规公司可能面临每天最高2000万美元的民事罚款。

什么是“AI终止开关”？

AI终止开关是一种隔离机制，当系统行为异常或遭受攻击时，它可以暂停、隔离、撤销或回滚系统。其实现方式是通过撤销身份、关闭访问权限和安全状态恢复，而不是通过单个物理或软件按钮。行业内对这一术语的使用仍在不断演变——有些团队仅将其指代强制关闭，而另一些团队则将其解释为包括暂停、隔离、回滚以及提示或使上下文失效等操作。

反响如何？

尽管许多科技公司已同意向美国政府机构预先展示并分享其正在开发的AI模型和工具，但这只是“自愿承诺”，政府此前并未被赋予“干预权”或“关闭权”。OpenAI尚未立即回应置评请求，但该公司此前表示，希望通过政府政策等方式确保AI技术“造福全人类”。

其他相关措施

今年6月，美国商务部发布出口管制令，要求Anthropic将其最先进的模型——Fable 5和Mythos 5——对境外用户下线，原因是担忧这些模型的安全防护措施可能被绕过并遭到黑客攻击。相关管制措施随后于6月底解除。另据知情人士透露，白宫还通过一项名为“金鹰（Gold Eagle）”的计划，着手加强对AI模型发布的管控，该计划将赋予政府审批权，决定哪些公司可以获取新模型。但白宫官员对CNBC表示，政府不为私营公司的AI发布提供审批，参与是“自愿的”。

莫兰此前已于6月单独提出立法，要求AI开发商在发现危险能力或安全漏洞后7天内向商务部报告。除了“AI终止开关法案”，美国国会两党小组还提出了一项立法提案，要求AI模型开发者将其模型提交给由美国商务部认可的独立安全性审计机构。

接下来？

该法案提交国会之际，美国国会议员对于联邦政府应如何积极监管AI仍存在分歧。特朗普政府认为，严格的限制可能会削弱美国在AI领域的竞争力，而一些议员和技术政策团体则呼吁加强对前沿模型的监管。路透社22日报道，美国国务卿鲁比奥已要求美国外交官驳斥有关美国科技产品中存在“终止开关”的说法，同时指示外交官向外国伙伴推销美国的人工智能产品。