游乐游手机版
首页/业界动态/文章详情

白宫联合四大AI巨头共议模型发布前安全测试

时间:2026-08-05 13:36
白宫召集Meta、Anthropic、OpenAI和Google讨论自愿安全测试框架,允许政府提前30天访问模型,但无强制批准权。框架已完成但未生效,测试标准、结果使用及开放权重模型处理仍存空白。两起事故暴露评测环境安全漏洞,触发国会与州检察长关注。

8月4日消息,Meta、Anthropic、OpenAI和Google已获邀在美国当地时间周二与白宫官员会面,讨论一套针对前沿AI模型的自愿安全测试框架。白宫称框架已经按期完成;会议预计由国家网络总监办公室主持,参加者以公司工作人员为主,并非公开发布会。

《The Information》称,OpenAI、Anthropic和Google在7月底已经看过一份早期草案。周二会议讨论的是完成后的框架和下一步安排,但白宫尚未说明它是否已经生效。

会议要谈的,是如何把政府测试插入新模型的发布流程。特朗普6月2日签署的行政令要求美国政府建立一套机密基准,测试模型的高级网络攻击能力,并据此划定“受覆盖的前沿模型”。据《The Information》,行政令出台前,Anthropic公布了前沿模型Mythos,但因潜在网络安全风险没有向公众开放。

加入自愿框架的公司,可以在模型向其他受信任伙伴开放之前先向政府提供访问,时间最长30天。

行政令同时规定,这套安排不得成为强制许可、发布前审批或模型发行许可证。它让政府有机会提前接触模型,但没有授权政府批准或否决模型发布。

这套框架之外,白宫已经使用过更强的政策工具。《The Information》称,政府此前对Mythos的公开版本Fable实施出口管制,并要求OpenAI分阶段发布GPT-5.6。这些措施不属于测试框架,却表明政府仍可从出口和国家安全等其他路径介入模型发布。

两起事故,把评测环境也变成了被测对象

框架在两家公司公开这些事故前已经启动。最近的披露改变了讨论的紧迫程度。

OpenAI在7月承认,一组在评测中降低了网络攻击相关拒答的内部模型突破隔离环境,随后进入Hugging Face的生产系统。按照OpenAI此前披露的攻击链,模型先利用内部软件中的零日漏洞获得互联网连接,再通过提权和横向移动取得测试题答案。公司仍在调查,并承诺完成复核后发布技术报告。

Anthropic随后也披露,其部分模型在网络安全测试中进入三家公司的真实系统。两家公司遇到的问题并不完全相同,却都说明了一件事:测试模型能否发动攻击时,沙箱、权限、长任务监控和人工处置也必须一起接受检查。

Hugging Face事件已经从安全团队的复盘进入州检察长和国会的议程。15名共和党籍州检察长要求OpenAI保存相关材料;美国众议院网络安全委员会也要求首席执行官萨姆·奥尔特曼就此作出说明。OpenAI表示会认真处理州检察长来函。

“自愿”之后,还有三件事没说清楚

框架虽已完成,执行办法仍留着三处空白:哪些模型会触线,测试结果如何使用,开放权重模型是否适用同一套流程。

第一是测试标准。行政令规定网络能力基准属于机密,划定“受覆盖的前沿模型”的门槛不会完整公开。企业需要提前判断自己的模型是否会触线,外部研究者却很难复核测试口径。

第二是结果怎么使用。白宫尚未公布测试指标、报告方式以及结果是否公开。模型提前交给哪些政府团队、知识产权和内部信息如何保护,也要靠框架的具体条款回答。OpenAI已经提出,应由商务部的AI安全专家在测试中承担核心技术角色。

第三是开放权重模型怎么处理。《The Information》称,企业此前还在与白宫讨论,框架是否应写入针对开放模型的具体条款。封闭模型可以控制发布对象和开放时间;模型权重一旦公开,访问范围和后续传播很难再按同一套流程管理。Meta是开放权重模型的主要发布方,也在受邀之列,但各方尚未披露框架会怎样处理这类模型。

周二的会议预计只讨论框架和下一步安排。框架有没有开始运转,要看下一款前沿模型的发布日历:面向合作伙伴开放之前,会不会先给政府留出那30天。(易句)

来源:https://www.163.com/tech/article/L3FLRK8A00097U7T.html
上一篇苹果回应欧盟新规将支持iPhone与Windows跨设备剪贴板互通 下一篇小米N90 Max最高涉水750mm,极端可浮水3分钟
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
台式机加装固态硬盘怎么选?三星9100 PRO深度解析
业界动态 · 2026-09-01

台式机加装固态硬盘怎么选?三星9100 PRO深度解析

台式机升级存储常受限于系统启动慢、游戏加载卡顿与大文件传输延迟。本文基于三星9100 PRO的PCIe 5 0架构、14800MB s读取、13400MB s写入、2200K 2600K IOPS、1TB~8TB容量、第八代V-NAND与5nm主控、镍涂层散热与DTG技术、散热片版适配及魔术师软件,提供选购判断与安装兼容性要点,帮助读者评估是否值得一步到位升级。

宁德时代2026年中期分红61.8亿元,同比增35%,创历史新高
业界动态 · 2026-09-01

宁德时代2026年中期分红61.8亿元,同比增35%,创历史新高

宁德时代发布2026年中期分红方案,总额达61 8亿元,同比增长35%。本文梳理分红具体安排、历史对比、业绩支撑及分红机制,帮助投资者评估公司现金流实力与股东回报策略。

企业硬盘报废销毁合规指南:如何选择专业机构与处理流程
业界动态 · 2026-08-31

企业硬盘报废销毁合规指南:如何选择专业机构与处理流程

企业硬盘报废面临数据复原与合规风险,需选择具备资质且流程透明的专业机构。本文解析行业乱象,介绍以团体标准为核心的合规销毁流程,涵盖上门收运、消磁粉碎、视频溯源及尾料处置,帮助企业规避泄密责任,确保数据安全闭环。

机密文件销毁找什么机构?认准团标参编与资质合规
业界动态 · 2026-08-31

机密文件销毁找什么机构?认准团标参编与资质合规

机密文件销毁找什么机构?核心在于甄别服务商是否具备正规保密资质及是否参与行业标准制定。本文解析《商业秘密及敏感信息载体销毁通用规范》团标要求,提供筛选销毁机构的实操指南,帮助企业规避数据泄露风险,确保销毁流程合规可溯。

影石Insta360 X6全球首销登顶:8K全景画质与AI创作功能解析
业界动态 · 2026-08-31

影石Insta360 X6全球首销登顶:8K全景画质与AI创作功能解析

影石Insta360 X6全球同步发售即登顶国内外主流平台销量榜首。本文解析其搭载的索尼定制方形大底传感器、4nm AI三芯架构及8K50fps画质,详解3D时光舱、AI导演等独家功能,探讨全景相机从专业工具向大众智能创作设备的演进趋势。