OpenAI首席执行官山姆·奥特曼（Sam Altman）近日公开表示，他们正与美国AI安全研究所展开合作，计划向该机构提供下一个主要生成式AI模型的早期访问权限，用于开展安全测试。

奥特曼周四晚间在X平台上发布了这一消息，虽未披露具体细节，但意图十分明确。结合今年6月他们与英国AI安全机构达成的类似协议，这一系列动作旨在回击外界对OpenAI在追求更强大AI技术时可能忽视安全的质疑。

更早之前，OpenAI曾在5月解散了一个专注于安全研究的团队，该团队原本负责开发防止“超级智能”AI系统失控的控制措施。然而，相关报道显示，团队的安全研究被搁置，转而优先推进新产品上线。最终，团队两位联合负责人扬·莱克（现于AI初创公司Anthropic领导安全研究）和OpenAI联合创始人伊利亚·苏茨克维（创办了专注安全的公司Safe Superintelligence Inc.）相继离职，外界普遍认为这一信号极为强烈。

面对日益增多的批评声音，OpenAI也做出了一些调整。例如，他们取消了限制员工揭发的非贬低条款，成立了安全委员会，并承诺将20%的计算资源用于安全研究。——需要说明的是，这个20%的承诺背后有其故事：此前被解散的安全团队也曾得到类似承诺，却未能兑现。如今，奥特曼再次确认了这一承诺，同时确认在5月废除了新员工和现有员工的非贬低条款。

尽管如此，一些观察家依然持怀疑态度。特别是该安全委员会完全由OpenAI内部人员组成，再加上最近又将一位顶级AI安全高管调往其他部门，这难免让人对其独立性产生疑问。

包括夏威夷民主党人布莱恩·沙茨在内的五位参议员，最近也致信奥特曼提出了质疑。OpenAI首席战略官杰森·权（Jason Kwon）回信称，公司“致力于在流程的每个阶段实施严格的安全协议”。

值得一提的是，OpenAI本周早些时候还支持了《创新未来法案》。该法案若通过，将正式授权安全研究所作为一个行政机构，为AI模型制定标准与指南。在这样的背景下，OpenAI与美国AI安全研究所达成协议的时机显得颇具深意。这一系列动作可能被解读为试图掌控监管节奏，或至少是OpenAI在联邦层面施加影响的一种方式。

需要关注的是，奥特曼本人是美国国土安全部人工智能安全与保障委员会的成员，该委员会专门为美国关键基础设施中“安全可靠地开发和部署AI”提供建议。此外，OpenAI今年在联邦游说上的支出大幅攀升——2024年前六个月已花费80万美元，而2023年全年仅为26万美元。这组数据同样值得深思。

美国AI安全研究所隶属于商务部国家标准与技术研究所，并与包括Anthropic在内的公司联盟，以及谷歌、微软、Meta、苹果、亚马逊和英伟达等大型科技公司均有合作。