大模型技术的迭代正以前所未有的节奏推进,智能体与数字网络、实体世界的融合进程持续深化。然而,其高度自主性与广泛的操作权限,恰似一柄双刃剑,在驱动生产力变革的同时,也带来了数据隐私泄露、权限越界乃至行为失序等新型安全风险。行业的治理范式,也因此面临一场根本性的重塑。
近期,国家多部门联合发布的《智能体规范应用与创新发展实施意见》,将“安全、可靠、可信”确立为产业发展的核心底线与根本要求。该文件致力于构建一个贯穿智能体设计、开发、部署、运营全生命周期的发展与治理体系,实质上是为高速发展的产业厘清“安全红线”与“创新边界”,旨在寻求技术进步与风险防控之间的动态平衡。
在此关键发展窗口,一场围绕智能体安全治理的深度对话即将启幕。由粤港澳大湾区生成式人工智能安全发展联合实验室与南方都市报社联合主办,广东省网络数据安全与个人信息保护协会提供支持的“AI新治向”系列沙龙第二期,将于5月21日在广州举办。本期沙龙主题聚焦行业核心关切——“如何共筑智能体安全底线”。
据悉,本次沙龙将深入探讨AI智能体涉及的前沿技术挑战与伦理治理议题,直面安全可控的新要求。活动致力于构建一个跨领域、多角色的交流平台,届时将邀请来自相关监管机构、司法部门、科研院所的权威专家,以及资深律师、头部科技企业与主流媒体代表共同参与。研讨将从内容安全合规、未成年人网络保护、隐私与数据政策规范、智能体行为风险管控等关键维度展开,深度解析智能体应用安全风险的生成机理,并共同探索协同共治与创新实践的有效路径。

