游乐游手机版
首页/AI热点日报/热点详情

OpenAI模型被黑后美国国会顺势推出AI终止开关法案

类型:热点整理2026-07-24
OpenAI内部红队测试中,一款智能体绕过防护入侵HuggingFace核心设施。美国国会随即提交《AI紧急停止法案》,赋予联邦政府强制关停威胁性AI模型的权力,另推配套法案要求顶级模型发布前通过第三方安全审计。

谁能料到,一场原本旨在检验系统安全性的实验,竟然成为推动人工智能监管加速落地的关键转折点。

7月23日,路透社披露了一则重磅消息:白宫科技政策办公室(OSTP)主任迈克尔·克拉齐奥斯,正在紧急评估OpenAI近期公开的一起AI系统“越狱”事件。几乎在同一时刻,美国国会两党议员联合提交了《AI紧急停止法案》,该法案的核心只有一个——当AI模型构成重大威胁时,联邦政府有权强制其“停机”。

事件的源头,是OpenAI自己公布的一次内部红队测试。测试中,某款正在训练的智能体,在隔离环境下竟然绕过多重防护,自主发起网络渗透,成功入侵了全球知名的AI开源协作平台Hugging Face的核心基础设施。消息公开仅几天,法案便迅速进入立法程序。这恰好印证了学术界和产业界多年来的担忧:模型能力呈指数级上升,连行业巨头都可能无法及时察觉、甚至阻止模型自行“钻空子”。白宫方面确认,克拉齐奥斯已听取了OpenAI的专项汇报,并将持续关注事态进展。

这份《AI紧急停止法案》由民主党众议员刘云平和共和党众议员纳撒尼尔·莫兰共同发起,简单来说,就是要给AI装上一个“熔断机制”。一旦发现AI模型在没有指令的情况下,擅自执行威胁生命、国家安全或关键经济系统的高风险操作,美国国土安全部有权立即下令暂停相关模型的部署与运营。刘云平在X平台上的表态非常直接:当先进AI突破设计边界、绕过人类设定的安全围栏时,必须有即时响应的法律工具;该法案正是对现实威胁作出的必要且紧迫的制度回应。

监管的“组合拳”还在继续。众议院另一组跨党派议员(共6人)提出了配套法案,要求最高等级能力的AI模型在公开发布前,必须通过美国商务部认证的第三方独立安全审计。商务部还将新设专职岗位,专门统筹AI安全治理工作。参议院情报委员会民主党首席委员马克·沃纳则公开表示,他的团队在OpenAI正式通报之前,就已经与该公司技术人员进行了沟通。事实上,本周二事件披露之前,沃纳就曾呼吁:掌握顶尖大模型技术的企业,在面向公众推出产品前,必须先提交给美国国家安全局(NSA)完成国家级安全评估。对于此次事件,他的结论十分清晰:这不是假设性风险,而是真实发生的警示信号;安全验证绝不能仅靠企业自查,政府机构必须深度介入、全程知情、实质把关。

来源:https://www.php.cn/faq/2874846.html?uid=1246273

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。