在人工智能技术迅猛发展的当下,如何确保这项变革性技术不被滥用,已成为行业内外广泛关注的焦点。近日,Anthropic公司首席执行官(CEO)达里奥·阿莫迪在接受媒体专访时,深入剖析了私营企业在AI演进中的角色与责任,并首次披露了其公司内部独特的治理架构。

阿莫迪指出,人工智能革命与以往的技术革新存在本质区别。他认为,人工智能是首个主要由私营企业而非政府主导推动的重大技术革命。对于这种发展模式,他坦言,如果由他来决定,未必会选择完全由私营企业主导的路径。他既担忧企业或个人掌握不受约束的强大AI能力,也警惕政府完全掌控可能带来的管控风险。
探索公共监督与内部制衡的AI治理方案
阿莫迪强调,最合理的路径是在两者间寻求平衡,并引入公共监督机制。为此,Anthropic内部建立了一套名为“长期利益信托”的治理体系。这一专门机构被赋予了实质性的监督权力,旨在确保公司发展始终不偏离安全与责任的轨道。
独特的“长期利益信托”治理结构
据阿莫迪介绍,这个信托机构拥有任命和撤换董事会成员、乃至解除首席执行官职务的权限。他明确表示:“如果他们愿意,甚至可以随时解除我的CEO职务。”这种设计的核心目的,是为了防止公司内部形成固化的利益集团,确保所有决策始终以长期安全和社会福祉为导向,让公司这艘大船永不偏离航向。
这番表态揭示了前沿AI企业在快速扩张的同时,对自身权力进行内部制衡的积极尝试。在缺乏成熟全球监管框架的背景下,这种将关键人事任免权赋予独立监督机构的做法,为AI企业的治理模式提供了另一种参考思路。
