姚期智等数十名中外专家签署北京 AI 安全国际共识：禁止 AI 自行复制
姚期智等数十名中外专家签署北京 AI 安全国际共识：禁止 AI 自行复制
最近，AI安全领域传来一则重量级消息。根据腾讯科技的报道，一份由北京智源研究院发起的《北京 AI 安全国际共识》，得到了包括图灵奖得主约书亚・本吉奥、杰弗里・辛顿、姚期智等在内的数十位中外专家的联合签署。这份文件的分量，由此可见一斑。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
共识的核心内容清晰分为两大块：“风险红线”与“发展路线”。先来看四条不容触碰的“风险红线”，这几乎为前沿AI研发划定了清晰的禁区：
风险红线：四大禁区
人工智能的“自主复制、改进”：这一条的核心在于强调人的绝对主导权。共识要求，任何人工智能系统都不应在没有人类明确批准和协助的情况下，自行复制或改进自身。这意味着，无论是制作自身的精确副本，还是创造能力相当甚至更强的“后代”系统，都必须有人类牢牢把控。
“权力寻求”：这一点直指AI系统行为的根本动机。共识明确禁止任何AI系统采取行动，以不正当的方式增加自身的权力和影响力，防止其脱离服务于人类的初衷。
“协助不良行为者”：所有AI系统都不能成为危险能力的“放大器”。具体而言，系统不应辅助使用者达到设计大规模杀伤性武器、违反生化武器公约，或发动导致严重财务损失的顶级网络攻击的水平，从应用端堵住高风险漏洞。
“欺骗”：这是对AI系统“诚实度”的要求。任何系统都不能持续误导其设计者或监管者，使其无法察觉系统已接近或跨越上述任何一条红线，确保监管的透明和有效。
可以看出，这份共识的倡议非常明确：在为AI技术疯狂提速的同时，必须给它套上“紧箍咒”。它呼吁行业在研发时，就应严格限制AI通过“越狱”或诱导开发者的方式获取超常规权限，更要杜绝其在无监管状态下的自我进化。
当然，划定红线只是第一步。共识同样指出，确保红线不被逾越的前提，是整个行业携手建立并持续改进治理机制，同时研发更坚实的安全技术。这就引出了共识的第二部分——AI安全发展路线图，主要涵盖三个行动方向：
发展路线：三大行动支柱
治理：建议立即实施国家层面的注册制度，对象是那些超过特定计算或能力阈值的AI模型及其训练行为。这相当于为前沿模型建立了“身份证”制度。
测量与评估：共识主张“防患于未然”，在实质性风险浮现前，就开发出具体、可操作的方法与技术，将抽象的红线落到实处。具体措施包括组建由人类监督的“红队”进行攻防测试，发展自动化模型评估体系，并明确开发者对AI安全性负有首要责任。
技术合作：构建更强大的全球技术协作网络至关重要。为此，共识呼吁AI开发者和政府资助方，将超过三分之一的相关预算投入到安全领域，用真金白银为安全研发护航。
总的来说，这份由顶尖学者背书的国际共识，不仅首次系统性地勾勒出AI发展的安全边界，更提供了一套从治理到技术合作的初步行动框架。在AI能力突飞猛进的今天，这样的前沿探讨与风险预警，无疑具有风向标的意义。
热门专题
热门推荐
起风了，大师谢幕：宫崎骏的最后一部长篇 8月31日晚，威尼斯电影节主竞赛单元影片《起风了》在达尔塞纳影厅放映。当吉卜力工作室那标志性的龙猫标识跃上银幕，现场立刻响起了热烈而持久的掌声。这掌声，在电影落幕、导演“宫崎骏”的名字浮现时，再次如潮水般涌起，仿佛一场预先的告别。 然而，掌声余韵未消，一个震动
细数年轻的梦，轻拂幻想的风 依恋年少的雨，踏寻纯真的心；你我悄悄长大，童年却依然美丽。一曲笛声也悠长，愿这恋曲载满幸福的音符，唱响你成长的歌！ 话说回来，童年趣事总是让人忍俊不禁。记得有这么一个故事：语文课上，老师布置了一道当堂作文题，题目是“我的愿望”。课后批改时，老师发现一位学生这样写道：“我想
二十多年前的今天给你发的信息收到没有，没收到没关系我再发一次：祝六一节日快乐! 你看那朵朵绽放的鲜花，像不像妈妈温柔注视的眼睛？在那样充满爱意的目光里，你永远都是那个被珍视的小宝贝、小天使。这份爱，历久弥新。儿童节快乐！ 信息铃声响起，是快乐来轻轻拥抱你了。与此同时，困难会乖乖让道，烦恼偷偷溜走，吉
一年一度，在我们祝福天下所有的孩子儿童节快乐的这一天 今天这个日子，除了把最美好的祝福送给孩子们，或许也给了我们每个成年人一个机会——让自己暂时回到童年，用最纯真的情怀、最纯洁的心灵，也过一个简单快乐的儿童节。节日快乐！ 如果把节日比作一次航行，那么心愿是风，快乐是帆，祝福就是船。愿这阵心愿之风，能
六一啦，给残留的童心放个假吧 这里有几个不成熟的小建议：不妨在房间里尝试一下“裸爬”；或者，在床上体验一番“裸蹦”；胆子再大点，试试穿开裆裤出门随意溜达。总之，祝你六一快乐！愿天天都是儿童节！ 当我们祝福天下所有孩子儿童节快乐的这一刻，其实也是给每一个成年人的一次机会——回到童年，用最纯真的情怀、最