游乐游手机版
首页/科技数码/文章详情

中通院长余晓晖:AI企业应主动加固模型与智能体安全

时间:2026-03-26 09:07
“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者,均对新技术抱有浓厚兴趣并乐于尝试。”3月25日,博鳌亚洲论坛“AI+”:数智赋能产业升级分会现场,中国信息通信研究院院

“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者,均对新技术抱有浓厚兴趣并乐于尝试。”

3月25日,博鳌亚洲论坛“AI+”:数智赋能产业升级分会现场,中国信息通信研究院院长余晓晖指出,今年不少用户即便对开源AI智能体“龙虾”(OpenClaw)不甚了解,仍愿意主动体验;去年春节DeepSeek发布时,许多非行业人士也表现出高度关注。中国企业同样积极试水新技术,这为数字经济与人工智能发展注入了强劲活力,也是我国在相关领域实现突破的重要原因。

谈及AI治理如何平衡技术创新和可控性,余晓晖表示,当前社会在一定程度上低估了新技术带来的安全挑战。用户在使用“龙虾”时,往往忽视授权后其自主执行任务可能引发的不可控风险。其所在研究院此前测试也证实,相关技术存在诸多安全隐患。

但余晓晖认为,中国仍应积极拥抱新技术,推动其在各行业各领域探索应用,秉持创新精神而非畏惧退缩,以此提升生产力、增进社会福祉。

余晓晖进一步指出,面对新技术,社会应建立更全面的认知与敬畏之心,在应用过程中坚守基本安全底线。对企业与机构而言,未来自身的安全治理能力将愈发重要。在提升生产、学习与工作效率的同时,必须同步筑牢安全防线、构建安全治理体系,这在当前全球范围内均是一项极具挑战性的工作。

与此同时,余晓晖指出,国内外人工智能厂商肩负重大责任,需主动加强大模型、智能体等技术的安全加固。相关测试显示,当前国内外主流大语言模型(的安全水平)约15%至30%,相关工作仍需大力推进。目前团队已推动国内十余家人工智能头部企业作出人工智能安全承诺并进行信息披露,以切实解决相关安全问题。

“各方普遍希望在本轮人工智能浪潮中抓住机遇、不落人后,这是共同的诉求。当前应用场景广阔,但仍有几方面问题亟待解决。”余晓晖表示,一是小语种与模型多元化问题。需针对不同区域发展适配的小语种模型,实现技术普惠至关重要。

余晓晖指出,中国人工智能企业在此作出重要贡献,DeepSeek、月之暗面、阿里等推出的开源模型,为各国依托先进技术开展本土化训练、构建自主主权模型奠定了良好基础。

二是算力问题。余晓晖表示,这是当前面临的突出挑战,推动区域内算力互联互通,是满足算力需求的关键路径。

三是安全与治理问题。余晓晖指出,尽管各国政府已开展大量工作,但实际效果仍有不足。在区域层面,可围绕统一标准、协同治理规则、共建测试工具、加强技术团队与区域能力建设等方面深化合作。中国企业已深度参与其中,未来仍有广阔空间。各方应共同把握全球人工智能发展的创新红利,同时筑牢安全底线,妥善应对风险与治理挑战。

来源:https://www.163.com/dy/article/KOU9NUFG0514R9P4.html
上一篇张亚勤:AI元年的智能体须明确责任主体 下一篇谷歌安卓系统网页性能基准测试结果已超越iOS
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。