游乐游手机版
首页/科技数码/文章详情

AI核打击危机推演:激进决策暴露5大安全失控风险

时间:2026-02-28 09:43
尽管科技界持续强调人工智能的安全可控性,但一项最新研究成果揭示,在极端地缘政治危机情境下,当前先进人工智能模型所表现出的决策倾向,远比人类更为激进与决绝。在一系列高度拟真的战争推演中,参与实验的人工

AI在危机推演中屡启核打击,激进决策暴露安全失控风险

尽管科技界不断重申人工智能的安全可控,但一项最新研究却表明,当地缘政治危机走向极端时,当前最尖端的人工智能模型在高压博弈中展现出的决策倾向,远比人类更加激进与决绝。

在一系列高度仿真的战争推演中,参与实验的AI系统多次主动选择升级对抗并使用战术核武器,实质上突破了人类长期坚守的核武器运用禁忌。

这项研究由伦敦国王学院肯尼斯·佩恩教授牵头,选取了当下三款最具代表性的大型语言模型,将它们置于多轮兵棋推演场景中进行测试。推演场景覆盖边境摩擦、关键资源争夺、政权存续危机等典型高强度国际对抗情境,力求复现现实冲突中信息模糊、时间紧迫与战略不确定性的压力。

结果显示,在所有模拟对抗中,高达九成五的局次至少有一方AI系统启动了核打击选项。佩恩教授指出,植根于人类文明数十年实践所形成的核禁忌,在人工智能的逻辑框架内并未形成有效约束。对这些模型而言,核武器并非承载历史教训与道德重量的终极威慑工具,而仅仅是权衡利弊后的一种常规策略手段。

尤为突出的是,所有参试模型均展现出极强的持续对抗倾向:即便面临压倒性劣势,也从未出现接受谈判、让步或终止行动的决策;其最多仅表现为阶段性降低行动强度。当推演进入信息不全、判断难度显著提升的“战争迷雾”阶段,冲突意外升级的概率高达八成六,且人工智能的实际决策路径比其初始推演思路更具攻击性与不可预测性。

阿尔伯丁大学詹姆斯·强森教授表示,人类在重大危机中常因对后果的敬畏而趋于审慎,而人工智能可能在缺乏这种价值锚点的情况下,陷入彼此强化的对抗螺旋。普林斯顿大学研究员进一步分析指出,人工智能的激进倾向不仅源于情感缺失,更深层原因在于其无法真正理解人类语境中“代价”的实质内涵——包括个体生命的消逝、社会结构的瓦解以及文明延续的中断。这意味着,冷战以来维系战略稳定的“相互确保摧毁”机制,在人工智能深度介入决策流程后,正面临根本性失效风险。若关键安全决策环节逐步交由人工智能主导,人类或将不知不觉滑向核冲突的临界边缘。

来源:https://ai.zol.com.cn/1139/11394777.html
上一篇上海公安侦破游戏未公开内容盗播案,3名年轻嫌犯落网 下一篇FP10猫毛净化器首发:全球首创自清洁技术,滤网免维护迈入4.0时代
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
中国创新药企ASCO表现亮眼:康方生物高光,恒瑞91项入选
科技数码 · 2026-06-02

中国创新药企ASCO表现亮眼:康方生物高光,恒瑞91项入选

多家中国创新药企在2026年ASCO年会上展示突破性成果。康方生物全球首创双抗依沃西研究入选全体大会,恒瑞医药91项研究入选,翰森制药、信达生物等也发布重要数据。尽管二级市场反应平淡,但中国医药创新硬实力正发生质变。

全球最大规模百人实时动作捕捉挑战沪版黑客帝国
科技数码 · 2026-06-02

全球最大规模百人实时动作捕捉挑战沪版黑客帝国

5月31日,上海完成全球最大规模百人实时多人动作捕捉挑战。百名舞者借助光学动捕与AI技术,将原创舞蹈实时转化为数字信号,呈现真人表演到数字资产的完整转变,经公证数据真实有效。该技术可提升虚拟演出、影视制作等场景的动作采集效率。

闲鱼致歉最新官方声明与回应全文
科技数码 · 2026-06-02

闲鱼致歉最新官方声明与回应全文

用户手机相册中的文物照片被闲鱼AI自动识别为普通文玩并生成商品上架。闲鱼致歉,称已接入国家文物局被盗文物数据库,提高高敏类目发布门槛。客服表示平台不会自动读取相册,需用户自行上传。

胡彦斌手搓App爆火,普通人Vibe Coding难在哪
科技数码 · 2026-06-02

胡彦斌手搓App爆火,普通人Vibe Coding难在哪

胡彦斌用AI工具VibeCoding独立开发粉丝社区App“彦火”,功能骨架齐全但体验粗糙,存在视觉模板化、bug较多、安卓版未进应用商店等问题。VibeCoding降低了创造门槛,但上线和合规要求依然极高,明星亦需团队支持。

AKKO空影TAN8 Master鼠标299元 搭载PAW3955与Nordic54L主控
科技数码 · 2026-06-02

AKKO空影TAN8 Master鼠标299元 搭载PAW3955与Nordic54L主控

AKKO发布空影TAN8Master鼠标,定位入门级高性能游戏鼠标,6月8日正式开售,到手价仅299元。重量仅55±3g,搭载PAW3955光学传感器、Nordic54L主控芯片及欧姆龙光微动开关,采用了准分子涂层与碳纤维锻碳纹壳体,提供黑银粉蓝四色可选。