游乐游手机版
首页/科技数码/文章详情

中通院长余晓晖:AI企业应主动加固模型与智能体安全

时间:2026-03-26 09:07
“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者,均对新技术抱有浓厚兴趣并乐于尝试。”3月25日,博鳌亚洲论坛“AI+”:数智赋能产业升级分会现场,中国信息通信研究院院

“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者,均对新技术抱有浓厚兴趣并乐于尝试。”

3月25日,博鳌亚洲论坛“AI+”:数智赋能产业升级分会现场,中国信息通信研究院院长余晓晖指出,今年不少用户即便对开源AI智能体“龙虾”(OpenClaw)不甚了解,仍愿意主动体验;去年春节DeepSeek发布时,许多非行业人士也表现出高度关注。中国企业同样积极试水新技术,这为数字经济与人工智能发展注入了强劲活力,也是我国在相关领域实现突破的重要原因。

谈及AI治理如何平衡技术创新和可控性,余晓晖表示,当前社会在一定程度上低估了新技术带来的安全挑战。用户在使用“龙虾”时,往往忽视授权后其自主执行任务可能引发的不可控风险。其所在研究院此前测试也证实,相关技术存在诸多安全隐患。

但余晓晖认为,中国仍应积极拥抱新技术,推动其在各行业各领域探索应用,秉持创新精神而非畏惧退缩,以此提升生产力、增进社会福祉。

余晓晖进一步指出,面对新技术,社会应建立更全面的认知与敬畏之心,在应用过程中坚守基本安全底线。对企业与机构而言,未来自身的安全治理能力将愈发重要。在提升生产、学习与工作效率的同时,必须同步筑牢安全防线、构建安全治理体系,这在当前全球范围内均是一项极具挑战性的工作。

与此同时,余晓晖指出,国内外人工智能厂商肩负重大责任,需主动加强大模型、智能体等技术的安全加固。相关测试显示,当前国内外主流大语言模型(的安全水平)约15%至30%,相关工作仍需大力推进。目前团队已推动国内十余家人工智能头部企业作出人工智能安全承诺并进行信息披露,以切实解决相关安全问题。

“各方普遍希望在本轮人工智能浪潮中抓住机遇、不落人后,这是共同的诉求。当前应用场景广阔,但仍有几方面问题亟待解决。”余晓晖表示,一是小语种与模型多元化问题。需针对不同区域发展适配的小语种模型,实现技术普惠至关重要。

余晓晖指出,中国人工智能企业在此作出重要贡献,DeepSeek、月之暗面、阿里等推出的开源模型,为各国依托先进技术开展本土化训练、构建自主主权模型奠定了良好基础。

二是算力问题。余晓晖表示,这是当前面临的突出挑战,推动区域内算力互联互通,是满足算力需求的关键路径。

三是安全与治理问题。余晓晖指出,尽管各国政府已开展大量工作,但实际效果仍有不足。在区域层面,可围绕统一标准、协同治理规则、共建测试工具、加强技术团队与区域能力建设等方面深化合作。中国企业已深度参与其中,未来仍有广阔空间。各方应共同把握全球人工智能发展的创新红利,同时筑牢安全底线,妥善应对风险与治理挑战。

来源:https://www.163.com/dy/article/KOU9NUFG0514R9P4.html
上一篇张亚勤:AI元年的智能体须明确责任主体 下一篇谷歌安卓系统网页性能基准测试结果已超越iOS
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
2026年实测排行 全能4K Live影像旗舰 国补各价位机型选购指南
科技数码 · 2026-06-07

2026年实测排行 全能4K Live影像旗舰 国补各价位机型选购指南

国补政策一落地,身边不少朋友都开始在盘算换新机。学生党、年轻姑娘、还有那些天天拍短视频的创作者,成了这波购机主力。大家普遍头疼的是:手里预算就那么多,想要颜值、拍照、续航都兼顾,实在不容易。这次我们把vivo几款热门机型真机摸了个遍,结合实验室实测数据,从影像、做工、续航到补贴后到手价,一步步拆解。

SHEIN污染问题与环保管理框架全面解读
科技数码 · 2026-06-07

SHEIN污染问题与环保管理框架全面解读

SHEIN希音环保表现,关键要看这个框架 关注SHEIN希音的环保问题,其实是在探讨一个非常现实的话题:作为一家全球性的时尚零售商,它究竟如何应对服装行业长期面临的环境挑战——资源消耗、库存积压、碳排放、包装与纺织废弃物?如果能够把这些议题梳理清楚,那么对SHEIN希音的整体环保表现,心里也就大致有

苹果美国上架官翻Apple Watch Series 11 2025款 便宜约15%
科技数码 · 2026-06-07

苹果美国上架官翻Apple Watch Series 11 2025款 便宜约15%

苹果官方翻新商店再次迎来新品上架。6月5日,据MacRumors报道,美国官网的官方翻新专区悄然上线了三款2025年9月发布的智能手表——Apple Watch Series 11、Apple Watch Ultra 3以及Apple Watch SE 3。这是该系列机型首次通过翻新渠道销售,折扣幅

飞牛fnOS上线OPPO一加相册互联功能
科技数码 · 2026-06-07

飞牛fnOS上线OPPO一加相册互联功能

近日,飞牛 fnOS 发布重要更新:ARM 设备上的飞牛相册迎来大幅升级,其中最受关注的亮点是正式支持 OPPO 和一加设备互联。值得一提的是,此前 X86 平台已实现该功能,此次更新为 ARM 用户补齐了这项实用功能。 具体来说,OPPO 与飞牛之间的互联打通了四个关键场景,每项体验都非常实在:

小米米家植萃系列智能香氛机首发229元支持澎湃智联
科技数码 · 2026-06-07

小米米家植萃系列智能香氛机首发229元支持澎湃智联

米家智能香氛机植萃系列现已正式开售。大家最关心的价格方面,官方建议零售价为299元,而首发优惠价直接降至229元,性价比十足。 这款香氛机的核心亮点在于选用了奇华顿Orpur高端精油,天然植物萃取,气味清新自然,不刺鼻也不显廉价。它提供三种香型:风铃草、红茶、薰衣草,分别对应清甜、醇厚、舒缓的不同风