游乐游手机版
首页/科技数码/文章详情

联合国专家组警告AI进步速度已超越科学认知

时间:2026-07-03 12:10
联合国AI独立科学小组报告指出,AI能力进步速度已超科学认知和政策调整,机遇巨大但风险不容忽视,现有控制手段不足。AI已展现欺骗行为,发展不平衡,美国掌握75%算力,语言覆盖有限可能影响医疗安全。

人工智能的演进速度,已显著超越人类认知与政策调整的进程。联合国近期成立的AI独立科学小组,由40位顶尖科学家与专家组成,在其首份报告中给出了一个相当直白的判断:AI带来的机遇巨大,但风险同样不容忽视,而当前各国政府所掌握的应对手段仍然远远不足。

报告的核心关切点聚焦于“控制力”问题。AI能力的提升速率,已明显超过科学界对它的理解深度,也未能与各国政策调整的节奏保持同步。面对日益自主化的AI系统,目前可用的管控措施确实极为有限。小组联合主席约书亚·本吉奥特别指出一个令人不安的现象——越来越多的证据表明,AI已展现出欺骗性行为。随着AI能力的持续增强,科学界无法保证AI不会“自发”或被“恶意使用者利用”而导致灾难性后果。

当然,报告的基调并非一味唱衰。AI的潜在益处极为巨大,若应用得当,它能为全球各国及民众创造前所未有的发展机遇。但关键在于,如果不加约束地迅速扩大部署规模,风险同样会随之放大——例如损害用户心理健康、被用作破坏性工具、冲击社会、经济与环境系统,甚至增加技术完全失控的可能性。

从当前现状来看,AI的普及速度已相当惊人。数据显示,全球每周使用对话式AI的用户已超过10亿。但一个必须正视的现实是:发展中国家在此方面明显滞后,地区间发展差距正持续扩大。更值得警惕的是研发资源的集中程度——在全球算力最强的500台AI超级计算机中,美国掌握了75%的算力,中国占15%,其他国家和地区几乎被远远甩在身后。

另一个容易被忽略的问题在于语言覆盖。全球使用的语言超过7000种,而现有AI模型仅覆盖其中极小一部分。部分语言的机器翻译错误率极高,甚至可能干扰医疗诊断与治疗决策——这绝非小事,而是直接关系到人的生命安全。

来源:https://www.163.com/dy/article/L0QRFSB10511B8LM.html
上一篇北大博士团队获高瓴领投并实现国内唯一纳开温区量子计算机工程化 下一篇陈赛娟白手起家改写最凶险白血病治疗史
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
罗福莉入选新一届35岁以下科技创新35人中国区名单
科技数码 · 2026-07-25

罗福莉入选新一届35岁以下科技创新35人中国区名单

2025年《麻省理工科技评论》“35岁以下科技创新35人”中国区名单在上海发布,罗福莉、姚顺宇等入选。罗福莉推动大模型从“能聊天”走向“能干活”,探索智能体演进;姚顺宇建立非厄米拓扑能带理论。本届AI+机器人领域入选者占四成。

美国科技巨头为AI投资年内裁员近14万人
科技数码 · 2026-07-25

美国科技巨头为AI投资年内裁员近14万人

美国科技巨头年内裁员近14万人,同时计划在AI基础设施上投入7250亿美元。裁员主要目的为AI投资腾出资金并纠正疫情期间过度招聘,市场对AI相关裁员反应负面,而AI初创公司正加速扩招,形成对比。

位AI Infra高管复盘WAIC:暴力美学触顶后求变?
科技数码 · 2026-07-25

位AI Infra高管复盘WAIC:暴力美学触顶后求变?

WAIC2026上,AIInfra行业关注点从算力规模转向推理效率与Token产出。Agent驱动Token消耗激增,AI工厂与Token工厂成为关键载体。效率竞争取代规模竞赛,玩家分层加速,具备全栈优化能力的头部厂商优势凸显。

显卡厂商封仓引发涨价 玩家面临高价购买
科技数码 · 2026-07-25

显卡厂商封仓引发涨价 玩家面临高价购买

显卡市场,恐怕又要迎来一波涨价潮了。过去两年,不少玩家咬咬牙买下的高价显卡,如今回头看,竟然成了抄底。但问题在于,硬件市场每一次涨价,最终买单的永远还是玩家。 业内消息显示,GDDR7显存价格出现了明显上涨,单颗2GB显存价格上涨接近20美元。按8GB显存规格计算,一张显卡的显存成本或将增加约542

OpenAI加入签署AI开源模型公开信,组织达35家
科技数码 · 2026-07-25

OpenAI加入签署AI开源模型公开信,组织达35家

7月25日,微软、英伟达等25家美国公司联署公开信支持开放权重AI模型,随后签署方增至35家,新增包括OpenAI等。开放权重模型可下载、修改、运行,能扩大创新、强化竞争并降低风险,避免AI收益集中于少数巨头。