你是否注意到，最近人工智能领域出现了一封充满火药味的公开信？来自OpenAI和谷歌DeepMind的十几位前员工与现任员工联合发声，直指高级人工智能的潜在危害，并批评科技公司缺乏有效监管与透明度。

图片来源 Pixabay

这封信中列举的风险令人不安：AI可能加剧社会不平等，助长虚假信息与操控手段的蔓延，甚至——失控的自主AI系统可能带来人类灭绝的威胁。虽然听起来像科幻电影的情节，但签署者均来自业内，因此不容忽视。

信中揭示了一个核心矛盾：人工智能公司因强大的经济利益驱动而不断推进技术，但对安全措施和真实风险水平却讳莫如深。公开信指出，不能指望这些企业主动揭露自身问题，因此呼吁内部人士勇敢发声。

由于缺乏有效的政府监管，这些现任和前任员工成为少数能够对公众负责的群体。然而，严格的保密协议限制了员工发声，他们只能向企业反映问题，而企业可能并未妥善处理。传统的举报人保护机制并不适用——它们主要针对违法行为，但当前令人担忧的许多风险尚未被纳入监管范围。

那么，员工们具体希望实现什么？公开信列出了四项诉求：

• 不得制定或执行禁止员工批评公司风险问题的协议；

• 提供可验证的匿名渠道，让员工能够向董事会、监管机构和独立组织反映风险担忧；

• 支持开放批评的文化，允许员工在保护商业机密的前提下，向公众、董事会、监管机构等提出技术风险问题；

• 当其他程序失效后，公司不得报复那些公开分享风险相关机密信息的员工。

本次联名信的签署者共有13人：7位前OpenAI员工、4位现任OpenAI员工、1位前谷歌DeepMind员工、1位现任谷歌DeepMind员工。更值得深思的是，OpenAI此前曾威胁员工，若发声将取消其既得权益，并要求签署严格的保密协议以限制批评。这封公开信，无疑捅破了一层窗户纸。