联合国秘书长古特雷斯周一发出紧急呼吁：全球必须立即禁止使用“杀手机器人”（致命自主武器系统）。

在瑞士日内瓦召开的联合国首届全球人工智能治理对话会议上，古特雷斯明确表示，必须通过国际法来禁止致命自主武器系统。这一表态，再次将AI安全领域最尖锐的争议推至公众视野——而这场争论，正是今年早些时候Anthropic公司与五角大楼关系破裂的关键导火索。

“当机器在没有人类监管和判断的情况下，自主选择、锁定目标并夺取生命——这在道德上是完全不可接受的。”古特雷斯在演讲中毫不留情地指出，“让我们直呼其名：这就是杀手机器人（killer robots）。”

他还在开幕式上指出，随着AI技术以惊人的速度发展，全球正在经历一场“既无规划、也未征得同意”的实验。这种局面必须终结。制定AI安全法规已是当务之急。

“我们不能等到暴行发生后才采取行动，”古特雷斯强调，“有些决策必须永远保留给人类，而其中最重要的，就是决定是否夺走他人的生命。”

近年来，原本面向民用场景开发的AI系统和芯片，日益频繁地被应用于战场和军事指挥中心。这自然引发了一场激烈的辩论：军队在何种情况下可以使用AI？人类应当在哪个环节介入？这一界限又该由谁来划定？

今年年初，这场争议彻底公开化。当时，Anthropic公司要求五角大楼做出承诺，禁止将其AI模型用于国内监控或自主武器系统。然而，作为Anthropic工具的重要用户，五角大楼断然拒绝了这一要求，声称应允许AI用于所有合法目的。目前，双方仍在就此事于美国法庭僵持。

与此同时，战场上的技术革新一日千里。AI武器的支持者和国防企业坚称，自主武器始终处于人类控制之下，AI能够帮助指挥官以更高、更精准的速度执行任务。而反对者则警告：AI系统难免犯错，在战况最危急的时刻将决策权交给机器，极其危险。

许多人工智能安全活动家——其中不少人早已担忧AI系统可能脱离人类掌控并反噬其创造者——认为，给AI配备武器只会加剧这一风险。

古特雷斯周一还提醒人们注意AI带来的另一重风险：AI的决策权正日益集中在少数企业和国家手中。而那些未来将受这些决策影响的大多数国家，至今仍毫无话语权。

据悉，这场为期两天的会议汇聚了来自全球各国政府、科技界和学术界的4000多名代表。会议秉持包容态度，探讨如何更好地利用这项已深刻改变世界的AI技术。联合国计划明年发布更全面的评估报告，并于纽约举办第二届全球AI治理会议。