先说一个重大的人事动荡：本周，OpenAI“超级对齐”团队的联合负责人Jan Leike正式辞职。这个团队的核心任务就是监督AI安全问题。在X平台上，Leike发了一条长帖，解释了他离开的原因——和公司领导层在“核心优先事项”上的分歧已经存在了很久，终于到了“临界点”。

第二天，OpenAI的CEO Sam Altman和总裁兼联合创始人Greg Brockman迅速回应，否定了Leike关于公司不重视安全的说法吗？不，他们承认了。

Leike在帖子里直言不讳：近两年来，OpenAI的“安全文化和流程已经让位给了产品”，他的团队几乎拿不到足够的资源来做好安全工作。他写道：“我们早就应该认真对待AGI（通用人工智能）的影响了。必须优先考虑尽我们所能去做好准备。”

周五，Altman在转发Leike的帖子时先做了简短回应：Leike说得对，OpenAI“还有很多事情要做”，而且“致力于去做”。他承诺会发一篇更长的回应。

周六，Brockman在X上以两人共同的名义发布了正式回应：

首先感谢Leike的贡献。接着他们表示，Leike辞职后收到了不少质疑，所以需要澄清三点。

第一，OpenAI一直在提高人们对AGI的认识，“以便世界能更好地为此做好准备”。他们写道：“我们多次证明了扩大深度学习的巨大可能性，分析了这些技术的影响；在AGI国际治理尚未成为热门话题时就呼吁讨论；还开创了评估AI系统灾难性风险的科学研究。”

第二，他们正在为这些技术的安全部署打基础。他们举了ChatGPT-4的例子——以“安全的方式将它带到世界”。并且强调，自2023年3月发布以来，公司“根据部署中积攒的经验教训，不断改进模型行为和滥用监控”。

第三点最值得玩味：“未来将比过去更艰难。”Brockman和Altman解释说，OpenAI在发布新模型时必须不断提高安全工作，并引用公司的“准备框架”作为工具——这个框架专门用来预测可能出现的“灾难性风险”，并设法减轻这些风险。

然后他们谈到了更远的未来：当OpenAI的模型更加融入世界、与更多人互动时，这既是有益的，也可以安全做到——“但这需要大量的基础工作。”所以他们可能会推迟发布时间表，直到模型“达到安全标准”。

“我们知道自己无法想象未来所有可能的情景，”两人写道，“因此需要有非常严格的反馈循环、严苛的测试、每一步的深思熟虑、世界一流的安全，以及安全与功能的和谐统一。”

他们还承诺继续与政府及利益相关者合作研究安全问题。

最后总结：“对于如何走上AGI这条路，目前没有现成的剧本。我们认为实证理解能帮我们指明方向。我们相信既能带来巨大好处，也能努力减轻严重风险。我们非常认真地对待这个角色，也仔细权衡外界对我们的反馈。”

让整个事件更加戏剧化的是：OpenAI的首席科学家Ilya Sutskever本周也辞职了。于是“#WhatDidIlyaSee”迅速成为X上的热门话题，外界纷纷猜测高层领导者究竟掌握了什么内情。从Brockman和Altman这份声明的负面反应来看，显然没能消除这些猜测。

与此同时，公司正在全力推进下一个版本：语音助手ChatGPT-4o。安全与速度的博弈，还在继续。