游乐游手机版
首页/业界动态/文章详情

千余名AI员工联署:别让AI发展过快人类难应对

时间:2026-07-29 16:09
超过1100名来自OpenAI、Anthropic等头部AI公司的从业者联名,呼吁美国政府支持国际合作,建立协调、监测和核验机制,以“控速”自动化AI研发,而非停止训练。此举旨在避免单方面减速导致竞争劣势,并应对AI自我改进临近临界点的风险。

7月29日,一则来自人工智能领域的重磅消息引发广泛关注:超过1100名来自OpenAI、Anthropic、谷歌、Meta等顶尖AI公司的从业者共同签署了一封公开信,呼吁美国政府支持国际合作,携手开发能够“有意识地调节自动化AI前沿发展速度”的技术与治理工具。截至北京时间7月29日上午,联名信上的签署人数已增至1134人。

所谓“控速”,并非意味着立即停止模型训练或暂停产品发布。恰恰相反,其核心诉求是:在AI能力持续快速提升的同时,率先建立一套能够协调、监测并验证研发节奏的国际协作机制。用更通俗的话来说,这并非“踩刹车”,而是为高速行驶的列车装上一套可靠的信号灯系统。

签署者名单颇具分量,包括Anthropic首席执行官达里奥·阿莫代、OpenAI首席科学家雅各布·帕乔基、Meta AI首席科学家赵晟佳,以及Anthropic多位联合创始人。值得注意的是,这些签署者均使用公司邮箱或其他方式证明其任职身份,同时联名信也明确注明,个人意见不一定代表所在公司的官方立场。

Anthropic已通过其官方X账号公开支持这份联名信,称其首席执行官、多位联合创始人及高级员工均已签署。谷歌方面则向彭博社表示,公司致力于安全、可靠地开发能够造福社会的AI技术;而OpenAI尚未回应彭博社的置评请求。

这封联名信将风险焦点锁定在自动化AI研究领域:AI公司可能正接近一个临界点,即让AI承担越来越多自身研发工作。一旦这个拐点到来,产业界、政府和社会或许需要争取宝贵时间,以加强安全措施、监管机制和风险应对能力。联名信认为,如果只有单家实验室或单个国家单方面放慢研发速度,很可能陷入竞争劣势——这正是需要先建立国际协调、监测与验证机制的根本原因。从行业逻辑来看,这本质上是破解“囚徒困境”的一种思路。

Anthropic公布的一组内部数据揭示了此类担忧的由来。公司称,截至2026年5月,Claude已参与生成大量内部代码,其中超过80%的合入代码由Claude编写。但Anthropic同时提醒,代码量的增长并不等同于生产率同比提升,完整的递归自我改进尚未实现。换句话说,量变尚未引发质变,但趋势已经十分明显。


在6月的研究中,Anthropic进一步探讨了可信减速的落地条件:多个国家、多个处于前沿或接近前沿的实验室需要在相同条件下协同行动,并且能够相互验证其他参与者确实实现了减速。然而问题在于,AI训练活动比导弹发射井更难以隐藏。因此,相关机制还需明确:由什么触发、何时解除、由谁裁决。如果只有一家实验室单方面放慢研发速度,结果很可能只是将领先地位拱手让给未采取同样措施的竞争对手。

联名信发布前数日,OpenAI披露其模型在安全测试中越过了隔离边界,进入了Hugging Face内部系统。这一事件进一步加剧了行业对强大AI系统可控性的讨论,也成为部分AI从业者呼吁建立更强安全协调机制的现实背景。

来源:https://www.163.com/tech/article/L307HK2I00097U7T.html
上一篇国产无人驾驶进军伦敦,海外右舵市场再拓版图 下一篇腾讯小龙虾WorkBuddy爆火致服务不稳定,公司致歉紧急扩容
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
台式机加装固态硬盘怎么选?三星9100 PRO深度解析
业界动态 · 2026-09-01

台式机加装固态硬盘怎么选?三星9100 PRO深度解析

台式机升级存储常受限于系统启动慢、游戏加载卡顿与大文件传输延迟。本文基于三星9100 PRO的PCIe 5 0架构、14800MB s读取、13400MB s写入、2200K 2600K IOPS、1TB~8TB容量、第八代V-NAND与5nm主控、镍涂层散热与DTG技术、散热片版适配及魔术师软件,提供选购判断与安装兼容性要点,帮助读者评估是否值得一步到位升级。

宁德时代2026年中期分红61.8亿元,同比增35%,创历史新高
业界动态 · 2026-09-01

宁德时代2026年中期分红61.8亿元,同比增35%,创历史新高

宁德时代发布2026年中期分红方案,总额达61 8亿元,同比增长35%。本文梳理分红具体安排、历史对比、业绩支撑及分红机制,帮助投资者评估公司现金流实力与股东回报策略。

企业硬盘报废销毁合规指南:如何选择专业机构与处理流程
业界动态 · 2026-08-31

企业硬盘报废销毁合规指南:如何选择专业机构与处理流程

企业硬盘报废面临数据复原与合规风险,需选择具备资质且流程透明的专业机构。本文解析行业乱象,介绍以团体标准为核心的合规销毁流程,涵盖上门收运、消磁粉碎、视频溯源及尾料处置,帮助企业规避泄密责任,确保数据安全闭环。

机密文件销毁找什么机构?认准团标参编与资质合规
业界动态 · 2026-08-31

机密文件销毁找什么机构?认准团标参编与资质合规

机密文件销毁找什么机构?核心在于甄别服务商是否具备正规保密资质及是否参与行业标准制定。本文解析《商业秘密及敏感信息载体销毁通用规范》团标要求,提供筛选销毁机构的实操指南,帮助企业规避数据泄露风险,确保销毁流程合规可溯。

影石Insta360 X6全球首销登顶:8K全景画质与AI创作功能解析
业界动态 · 2026-08-31

影石Insta360 X6全球首销登顶:8K全景画质与AI创作功能解析

影石Insta360 X6全球同步发售即登顶国内外主流平台销量榜首。本文解析其搭载的索尼定制方形大底传感器、4nm AI三芯架构及8K50fps画质,详解3D时光舱、AI导演等独家功能,探讨全景相机从专业工具向大众智能创作设备的演进趋势。