本站 7 月 7 日消息，联合国秘书长古特雷斯本周一在日内瓦举行的首届联合国人工智能治理全球对话会上，发出了一个相当重磅的呼吁——要针对人工智能，建立一套真正覆盖全球的、广泛而全面的管控体系。这事儿，确实值得每一个关心未来的人竖起耳朵听。

古特雷斯在发言中抛出了一个很值得深思的判断：“我们这一代人，很可能是最后一代能够设定人类与机器共存条件的人了。” 换句话说，构建人工智能全球治理体系的窗口期，可能比我们想象的要短得多，真的已经刻不容缓了。

他举了几个非常具象的例子来佐证这个紧迫性。比如，人工智能技术触达10亿用户，只用了2个小时——而互联网，用了整整15年。这种对比本身就说明了一切。再比如，我们现有的管理制度，根本就没准备好面对那些能自主做决定的机器。更麻烦的是，人工智能产业的算力、数据和人才，高度集中在少数玩家手里，大多数国家连基本的发言权都没有。还有，那些真假难辨的AI生成内容，正在一点点侵蚀社会信任的根基。而人类呢，又往往对这项技术抱有过高的、甚至是不切实际的期待和信赖。

当然，话说回来，古特雷斯也点明了硬币的另一面。如果人工智能能被妥善利用、广泛共享，它“完全可以把数十年的发展压缩成短短数年”，甚至成为“21世纪最伟大的平等工具”。只不过，在真正实现这个美好愿景之前，我们必须先把一件事做好——彻底测试技术的安全性，并且明确当事情搞砸了，法律责任到底由谁来承担。

这位秘书长把未来人工智能治理体系的发展，梳理出了四个核心的优先事项，很有参考价值：

安全

如果各国都搞一套各自为政、互不对接的监管规则，那不仅会增加额外成本，最终也很难真正落地执行。所有国家，尤其是在前沿技术管理上，必须达成基本共识。一套要覆盖全球的系统，它本身就必须达到能让全球都信得过的安全标准。古特雷斯特别提到一个尖锐的问题：任何孩子都不应该成为不受监管的人工智能的“小白鼠”。各国应该共同推动《人工智能儿童安全承诺》，开发者必须证明自己的技术对孩子是安全的，对性虐待内容必须采取零容忍。当系统检测到儿童表现出痛苦迹象时，必须立即停止运行，切换到真人支持。而如果真的有孩子因此受到了伤害，绝不能轻飘飘地说一句“这是算法干的”就完事了。

红线

人权，是永远不能被讨价还价的底线。人工智能绝不能用来剥夺人的尊严，或是系统性地加剧歧视。在司法判决、医疗诊断、执法行动等每一项高风险决策中，机器可以提供信息和参考，但最终的拍板决定——以及随之而来的责任——必须由人类来承担。

容量

这里说的“容量”，指的是发展中国家的参与能力。可以看一组对比数据：去年私营部门在人工智能基础设施上的投资高达5000亿美元，而国际社会对发展中国家人工智能能力建设的公共支持，相比之下简直就是一个可以忽略不计的“误差”。这背后的问题很严峻：国际社会如果继续放任不管，数字鸿沟很快就会变成更难以逾越的“人工智能鸿沟”。古特雷斯透露，他很快会向联合国大会提交一份关于设立全球人工智能基金的建议，这事儿挺值得关注。

透明

古特雷斯重申了他上个月提出的“人工智能环境透明度倡议”。核心要求很直白：每一家主流人工智能公司，都必须衡量并公开披露其系统的全部生态足迹，并且要承诺到2030年，所有数据中心全部使用可再生能源供电。技术发展的账，不能只算商业账，环境账也得算清楚。

最后提一个值得注意的点。虽然这次对话会聚焦的是民用人工智能，但古特雷斯并没有回避AI在军事领域的应用。他在演讲的后半段明确表示，自主杀人机器不仅在道德上令人无法接受、在整治上也是不可行的，而且必须从国际法律层面被正式禁止。这个态度，非常清晰，也相当坚定。