近期,一份由前员工曝光的报告揭示了OpenAI内部的真实状况。这家以“开发造福全人类的AI”为使命的公司,其内部安全团队的情况或许并不如外界所看到的那样乐观。

据《财富》杂志报道,前治理研究员Daniel Kokotajlo透露,近几个月内,OpenAI的AGI安全团队已有近半数成员离职。这一变化引发了外界的广泛关注:这家公司是否在安全问题上有所松懈?
AGI安全研究人员肩负着确保未来AGI系统不会对人类构成生存威胁的重任。然而,随着OpenAI将重心转向产品开发和商业化,研究人员大量流失,安全研究团队正面临规模缩减的困境。
Kokotajlo直言,自2024年以来,该团队已从约30人缩减至约16人。这并非有组织的集体行动,而是团队成员逐渐失去信心,陆续选择离开。
OpenAI发言人对媒体表示,公司为能够提供最强大、最安全的人工智能系统而感到自豪,并相信自己拥有解决风险的科学方法。尽管表态强硬,但结合团队人员流失的实际情况,仍不免令人担忧。
值得一提的是,今年早些时候,OpenAI联合创始人、首席科学家Ilya Sutskever宣布离职,其此前领导的“超级对齐”团队也随之解散。两件事联系起来,外界对OpenAI在安全研究方面的投入和决心议论纷纷。核心人才不断流失,仅凭对外表态能否稳定局面,值得深思。
