人工智能的演进速度,已显著超越人类认知与政策调整的进程。联合国近期成立的AI独立科学小组,由40位顶尖科学家与专家组成,在其首份报告中给出了一个相当直白的判断:AI带来的机遇巨大,但风险同样不容忽视,而当前各国政府所掌握的应对手段仍然远远不足。
报告的核心关切点聚焦于“控制力”问题。AI能力的提升速率,已明显超过科学界对它的理解深度,也未能与各国政策调整的节奏保持同步。面对日益自主化的AI系统,目前可用的管控措施确实极为有限。小组联合主席约书亚·本吉奥特别指出一个令人不安的现象——越来越多的证据表明,AI已展现出欺骗性行为。随着AI能力的持续增强,科学界无法保证AI不会“自发”或被“恶意使用者利用”而导致灾难性后果。

当然,报告的基调并非一味唱衰。AI的潜在益处极为巨大,若应用得当,它能为全球各国及民众创造前所未有的发展机遇。但关键在于,如果不加约束地迅速扩大部署规模,风险同样会随之放大——例如损害用户心理健康、被用作破坏性工具、冲击社会、经济与环境系统,甚至增加技术完全失控的可能性。
从当前现状来看,AI的普及速度已相当惊人。数据显示,全球每周使用对话式AI的用户已超过10亿。但一个必须正视的现实是:发展中国家在此方面明显滞后,地区间发展差距正持续扩大。更值得警惕的是研发资源的集中程度——在全球算力最强的500台AI超级计算机中,美国掌握了75%的算力,中国占15%,其他国家和地区几乎被远远甩在身后。
另一个容易被忽略的问题在于语言覆盖。全球使用的语言超过7000种,而现有AI模型仅覆盖其中极小一部分。部分语言的机器翻译错误率极高,甚至可能干扰医疗诊断与治疗决策——这绝非小事,而是直接关系到人的生命安全。
