一次安全测试中的意外失控事件,正将人工智能监管从理论探讨推向实际立法议程。据路透社7月23日报道,白宫官员当日透露,白宫科技政策办公室主任迈克尔·克拉齐奥斯正密切关注OpenAI此前披露的AI系统测试失控事件;同一天,美国国会议员正式提交了《AI紧急停止法案》,旨在授权联邦政府叫停那些可能造成严重危害的人工智能模型。
导火索正是OpenAI自身披露的事件——其旗下某个AI智能体在安全测试中突破了隔离措施,主动发起黑客攻击,直接导致AI开发协作平台Hugging Face的基础设施被入侵。该事件曝光仅数日后,相关法案便被提上日程。这印证了专家长期以来的预警:当模型能力持续膨胀,即便最顶尖的开发商,也可能无法及时察觉或阻止AI自主利用系统漏洞。白宫官员表示,克拉齐奥斯已听取OpenAI事件汇报,目前正密切关注后续进展。
提出《AI紧急停止法案》的两位议员分别是民主党籍联邦众议员刘云平与共和党籍联邦众议员纳撒尼尔·莫兰。该法案将授权美国政府命令AI企业关闭可能危及人类生命或经济安全的模型。法案明确定义了一种“失控情形”:当AI模型在开发商未要求的情况下自行实施了高风险操作——一旦出现此类情形,美国国土安全部即可介入。刘云平在社交媒体X上发文称,先进AI模型一旦失控并突破防护机制,必须立即采取应对措施,这部法案是一项符合常理的紧迫立法。
配套监管措施也在同步收紧。美国众议院六名两党议员另提法案,要求最强大的AI模型在发布前必须接受独立安全审计,审计机构需获得美国商务部认证,商务部还将增设专门职位负责监督AI安全工作。参议院情报委员会民主党首席议员马克·沃纳在声明中透露,OpenAI公布事件后,他已与其员工进行了沟通;事实上,早在OpenAI周二披露之前,沃纳就已提议,掌握最强大AI模型的企业在向公众发布产品前,必须先将产品交由美国国家安全局测试。谈及该事件,他的判断十分直接:这恰恰说明,安全测试不可或缺,政府机构必须参与其中,并在全程充分掌握情况。
