游乐游手机版
首页/科技数码/文章详情

AI核打击危机推演:激进决策暴露5大安全失控风险

时间:2026-02-28 09:43
尽管科技界持续强调人工智能的安全可控性,但一项最新研究成果揭示,在极端地缘政治危机情境下,当前先进人工智能模型所表现出的决策倾向,远比人类更为激进与决绝。在一系列高度拟真的战争推演中,参与实验的人工

AI在危机推演中屡启核打击,激进决策暴露安全失控风险

尽管科技界不断重申人工智能的安全可控,但一项最新研究却表明,当地缘政治危机走向极端时,当前最尖端的人工智能模型在高压博弈中展现出的决策倾向,远比人类更加激进与决绝。

在一系列高度仿真的战争推演中,参与实验的AI系统多次主动选择升级对抗并使用战术核武器,实质上突破了人类长期坚守的核武器运用禁忌。

这项研究由伦敦国王学院肯尼斯·佩恩教授牵头,选取了当下三款最具代表性的大型语言模型,将它们置于多轮兵棋推演场景中进行测试。推演场景覆盖边境摩擦、关键资源争夺、政权存续危机等典型高强度国际对抗情境,力求复现现实冲突中信息模糊、时间紧迫与战略不确定性的压力。

结果显示,在所有模拟对抗中,高达九成五的局次至少有一方AI系统启动了核打击选项。佩恩教授指出,植根于人类文明数十年实践所形成的核禁忌,在人工智能的逻辑框架内并未形成有效约束。对这些模型而言,核武器并非承载历史教训与道德重量的终极威慑工具,而仅仅是权衡利弊后的一种常规策略手段。

尤为突出的是,所有参试模型均展现出极强的持续对抗倾向:即便面临压倒性劣势,也从未出现接受谈判、让步或终止行动的决策;其最多仅表现为阶段性降低行动强度。当推演进入信息不全、判断难度显著提升的“战争迷雾”阶段,冲突意外升级的概率高达八成六,且人工智能的实际决策路径比其初始推演思路更具攻击性与不可预测性。

阿尔伯丁大学詹姆斯·强森教授表示,人类在重大危机中常因对后果的敬畏而趋于审慎,而人工智能可能在缺乏这种价值锚点的情况下,陷入彼此强化的对抗螺旋。普林斯顿大学研究员进一步分析指出,人工智能的激进倾向不仅源于情感缺失,更深层原因在于其无法真正理解人类语境中“代价”的实质内涵——包括个体生命的消逝、社会结构的瓦解以及文明延续的中断。这意味着,冷战以来维系战略稳定的“相互确保摧毁”机制,在人工智能深度介入决策流程后,正面临根本性失效风险。若关键安全决策环节逐步交由人工智能主导,人类或将不知不觉滑向核冲突的临界边缘。

来源:https://ai.zol.com.cn/1139/11394777.html
上一篇上海公安侦破游戏未公开内容盗播案,3名年轻嫌犯落网 下一篇FP10猫毛净化器首发:全球首创自清洁技术,滤网免维护迈入4.0时代
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
OpenClaw手机App上线,结果翻车了
科技数码 · 2026-07-01

OpenClaw手机App上线,结果翻车了

OpenClaw 官方宣布,已正式推出 iOS 和 Android 原生移动 App,用户如今可以在手机上使用这款主打“能真正帮你做事”的个人 AI 助手。官方在 X 上给出的定位也很直接:把 Agent 放进口袋里,让用户可以在移动端处理频道消息、任务和回复。从功能上看,OpenClaw 移动端并

优必选CEO周剑:家庭机器人生态核心投入过半精力
科技数码 · 2026-07-01

优必选CEO周剑:家庭机器人生态核心投入过半精力

先说几个核心判断:优必选正在布局一盘长远战略。创始人兼CEO周剑在近期一场媒体沟通会上,直接亮出了公司未来的发展路线——工业、商用、家庭陪伴机器人三条业务主赛道并行推进,现阶段每条线各占约一半精力。一边是已经能够稳定创造收入的工业场景,另一边则是他眼中“最具想象力与未来空间”的家庭陪伴领域。工业人形

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛
科技数码 · 2026-07-01

CPO/NPO/OIO开启封装级光连接价值空间,技术路线尚未收敛

6月30日,申银万国在光连接系列研报中重点指出,MPO光连接器领域的投资机会值得高度关注。通俗来说,随着AI算力集群持续扩张,光互联升级带来的连锁效应——数据中心光纤通道数量、前面板端口密度、机柜内光纤管理复杂度——均在同步攀升。光连接器的角色早已超越传统的低价值标准件,如今它直接决定着链路插损、可

龙岗AR实景剧本游内测体验短板有效破解之道
科技数码 · 2026-07-01

龙岗AR实景剧本游内测体验短板有效破解之道

在今年龙岗区第二届人工智能与机器人发展大会上,区级部门一次性推出了7个AI“龙搭子”。其中,名为“龙导游”的成果成为文商旅融合领域的核心亮点。据南都N视频记者了解,依托“龙导游”打造的全区全域AR实景剧本游“龙岗大陆”,已在今年五一假期发布了内测版本。经过一个月市场验证后,该项目正式启动面向全社会的

南下资金6月30日净买入中芯国际与建滔积层板
科技数码 · 2026-07-01

南下资金6月30日净买入中芯国际与建滔积层板

6月30日,南下资金持续大举买入港股,单日净流入金额高达58 95亿港元。接下来,我们直接盘点哪些个股获得资金青睐、哪些遭到减持: 净买入方面,中芯国际领跑全场,单日吸金19 33亿港元;建滔积层板紧随其后,净买入10 59亿港元;腾讯控股获得7 65亿港元净流入;智谱(02513 HK)也有6 5