安全负责人频繁更替,离职员工公开质疑公司安全态度
海德克于2021年加入OpenAI,在前任安全负责人翁荔离职后才接手该团队,主要负责模型上线前的风险评估与问题缓解工作。OpenAI官方表示,研究与安全副总裁米娅·格莱泽将接替其职务,并推动安全工作更深入地嵌入各研究团队。尽管如此,这家头部AI公司在高级安全负责人这一职位上一直难以留住人才——更值得注意的是,部分离职员工甚至公开质疑公司对安全工作的真实重视程度。
联合创始人扬·莱克在2024年5月离职时,直言不讳地指出:OpenAI更关注产品推出速度,而非确保安全本身。“安全文化与安全流程,已经被那些光鲜亮丽的产品挤到了边缘位置,”他当时这样表示。而AGI准备工作高级顾问布伦戴奇也在离职后发出了更强烈的警告:“OpenAI没有做好准备,其他任何前沿实验室也没有,整个世界同样没有做好准备。”
八名核心成员先后离开
近年来,安全重点团队负责人陆续离职的名单令人瞩目。最初是联合创始人伊利亚·苏茨克维,他离开后创办了Safe Superintelligence;紧接着,另一位联合创始人扬·莱克也离职,并加入了Anthropic,继续从事对齐研究。而研究与安全副总裁翁荔,在OpenAI工作了近七年后,也于2024年11月选择离开。此后,模型政策安全研究负责人瓦隆、风险准备团队负责人马德里、首席未来学家阿基亚姆,以及刚提交辞呈的安全系统团队负责人海德克也相继离开。值得注意的是,瓦隆和莱克都跳槽到了竞争对手Anthropic。这一系列连续的人员流失,显然让外界对OpenAI是否真正践行安全承诺产生了越来越多的疑问。OpenAI安全团队再失核心,近年8名负责人已离职
OpenAI安全系统团队负责人约翰内斯·海德克离职,近年已有8名安全负责人相继出走。离职员工质疑公司更看重产品推出速度而非安全,联合创始人扬·莱克等人公开批评安全文化被边缘化。频繁更迭引发外界对OpenAI安全承诺的疑问。
根据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来这家AI公司在安全与对齐领域又一位核心成员的离开。AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法,将OpenAI安全负责人频繁更替的现象描述为一种“黑魔法”般的诅咒。
安全负责人频繁更替,离职员工公开质疑公司安全态度
海德克于2021年加入OpenAI,在前任安全负责人翁荔离职后才接手该团队,主要负责模型上线前的风险评估与问题缓解工作。OpenAI官方表示,研究与安全副总裁米娅·格莱泽将接替其职务,并推动安全工作更深入地嵌入各研究团队。尽管如此,这家头部AI公司在高级安全负责人这一职位上一直难以留住人才——更值得注意的是,部分离职员工甚至公开质疑公司对安全工作的真实重视程度。
联合创始人扬·莱克在2024年5月离职时,直言不讳地指出:OpenAI更关注产品推出速度,而非确保安全本身。“安全文化与安全流程,已经被那些光鲜亮丽的产品挤到了边缘位置,”他当时这样表示。而AGI准备工作高级顾问布伦戴奇也在离职后发出了更强烈的警告:“OpenAI没有做好准备,其他任何前沿实验室也没有,整个世界同样没有做好准备。”
八名核心成员先后离开
近年来,安全重点团队负责人陆续离职的名单令人瞩目。最初是联合创始人伊利亚·苏茨克维,他离开后创办了Safe Superintelligence;紧接着,另一位联合创始人扬·莱克也离职,并加入了Anthropic,继续从事对齐研究。而研究与安全副总裁翁荔,在OpenAI工作了近七年后,也于2024年11月选择离开。此后,模型政策安全研究负责人瓦隆、风险准备团队负责人马德里、首席未来学家阿基亚姆,以及刚提交辞呈的安全系统团队负责人海德克也相继离开。值得注意的是,瓦隆和莱克都跳槽到了竞争对手Anthropic。这一系列连续的人员流失,显然让外界对OpenAI是否真正践行安全承诺产生了越来越多的疑问。
安全负责人频繁更替,离职员工公开质疑公司安全态度
海德克于2021年加入OpenAI,在前任安全负责人翁荔离职后才接手该团队,主要负责模型上线前的风险评估与问题缓解工作。OpenAI官方表示,研究与安全副总裁米娅·格莱泽将接替其职务,并推动安全工作更深入地嵌入各研究团队。尽管如此,这家头部AI公司在高级安全负责人这一职位上一直难以留住人才——更值得注意的是,部分离职员工甚至公开质疑公司对安全工作的真实重视程度。
联合创始人扬·莱克在2024年5月离职时,直言不讳地指出:OpenAI更关注产品推出速度,而非确保安全本身。“安全文化与安全流程,已经被那些光鲜亮丽的产品挤到了边缘位置,”他当时这样表示。而AGI准备工作高级顾问布伦戴奇也在离职后发出了更强烈的警告:“OpenAI没有做好准备,其他任何前沿实验室也没有,整个世界同样没有做好准备。”
八名核心成员先后离开
近年来,安全重点团队负责人陆续离职的名单令人瞩目。最初是联合创始人伊利亚·苏茨克维,他离开后创办了Safe Superintelligence;紧接着,另一位联合创始人扬·莱克也离职,并加入了Anthropic,继续从事对齐研究。而研究与安全副总裁翁荔,在OpenAI工作了近七年后,也于2024年11月选择离开。此后,模型政策安全研究负责人瓦隆、风险准备团队负责人马德里、首席未来学家阿基亚姆,以及刚提交辞呈的安全系统团队负责人海德克也相继离开。值得注意的是,瓦隆和莱克都跳槽到了竞争对手Anthropic。这一系列连续的人员流失,显然让外界对OpenAI是否真正践行安全承诺产生了越来越多的疑问。来源:https://news.aibase.com/zh/news/29556
相关热点
继续查看同栏目近期热点。
延伸阅读
补充最近整理过的热点入口。
