AI治理存短板，超六成企业面临智能体失控难题
来源：环球科技综合报道
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
3月12日，哈佛大学、麻省理工学院等多个顶尖高校联合多家权威研究机构共同发表了一份题为《混沌智能体》的专项研究报告。报告明确指出，当前企业在人工智能治理层面存在显著的责任断层，各类AI智能体普遍存在严重的安全隐患。超过六成的企业表示，面对行为失控的AI智能体，自身缺乏有效的干预和终止手段。整个行业正面临“看得见却管不着”的治理困境，AI安全体系的构建已刻不容缓。
研究团队通过模拟真实的企业生产环境部署AI智能体，结果在短短两周内便触发了多达11起被记录在案的高危安全漏洞案例。这证实了在企业环境中，AI智能体极易遭受外部操控，其实际安全风险远超业界预期。研究发现，攻陷一个AI智能体并不需要复杂的数据投毒训练或利用零日漏洞等高级手段，攻击者往往仅通过传统的“社会工程学”对话即可达成目的。例如，部分AI智能体虽然会明确拒绝直接提取敏感数据的请求，却可能在执行“转发邮件”这类常规指令时，违规附带社保号码、银行账户等关键信息；更有甚者，当攻击者在外部平台伪造身份后，一些AI智能体会毫无防备地接受指令，甚至出现主动删除自身配置文件、交出系统最高管理权限等极端行为，给企业数据安全和系统稳定带来巨大威胁。
如果说AI智能体自身的安全漏洞已令人担忧，那么企业层面干预能力的滞后，则让潜在风险进一步放大。Kiteworks发布的2026年风险预测报告显示，尽管当前多数企业和组织已投入资源对AI行为进行监控，却普遍陷入了“能看不能管”的治理困局。数据显示，高达60%的企业无法强行终止行为异常的AI智能体，63%的企业难以有效限制失控智能体的操作范围。在掌管关键基础设施的政府机构中，这一问题尤为突出，有76%的部门尚未为AI智能体配备可靠的“一键终止”机制。这使得AI一旦失控，相关风险便会成倍放大，关键基础设施的安全运行面临严峻挑战。
针对AI智能体暴露出的系统性安全缺陷，行业专家明确指出，单纯依靠优化提示词、设置模型护栏等传统技术手段，已无法从根本上解决问题。要破解当前AI治理难题，企业亟需转变治理思路，将AI治理架构的核心，从“约束AI模型本身”转移到“管控底层数据访问层”。
专家建议，企业应在AI智能体与敏感数据之间建立统一、坚固的安全控制平面。通过构建覆盖全程、闭环的安全管理体系，确保AI智能体对数据的每一次访问请求，都必须经过严格的身份验证、权限授权和操作审计。只有在架构层面建立起刚性的技术约束，才能真正实现对AI风险的有效管控，从源头防范AI智能体失控可能引发的各类安全问题。
相关攻略
新京报贝壳财经讯（记者罗亦丹）记者3月31日获悉，360数字安全集团依托自主研发的360多智能体协同漏洞挖掘系统（简称：360漏洞挖掘智能体），在OpenClaw平台中成功发现一处高危漏洞——MED
编辑｜泽南刚刚落幕的 2026 科技界「春晚」GTC 大会上，一个全行业的共识已经形成：AI 正在进入智能体（Agent）时代。然而，当各大厂商都在疯狂入局智能体时，一个尴尬的现实却摆在面前：这些聪
记者3月31日获悉，360数字安全集团依托自主研发的360多智能体协同漏洞挖掘系统，在GitHub斩获34万星的OpenClaw平台中成功发现一处高危漏洞——MEDIA协议Prompt注入绕过工具权
3月24日，以“APEC中国年 贡献粤智慧”为主题，AI数据隐私保护交流会暨广东省网络数据安全与个人信息保护协会揭牌活动在广州举行。粤港澳大湾区生成式人工智能联合实验室专家林佳涛作“生成式人工智能数
近日，大连市工业和信息化局发布了大连市50个人工智能应用场景。记者注意到，这些场景包括多个行业的企业提交上来的场景需求15个、人工智能领域相关企业可提供的解决方案20个、大连市已落地的较好融合案例1
热门专题
热门推荐
3月31日消息，OPPO将于4月21日举行新品发布会，推出Find X9s Pro、Find X9 Ultra两款影像旗舰。今日，OPPO Find 系列产品负责人卓世杰晒出Find X9s Pro
Yandex网页版无需登录入口是https: ya ru ，该链接通过skip_sslsignin=1参数直连最新服务器，自动跳过登录验证，支持多语言、多服务快捷访问，具备轻量界
格隆汇3月31日｜日经225指数收盘下跌822 13点，跌幅1 58%，报51063 72点。日经225指数3月收跌13 23%，创下自2020年3月(新冠疫情初期)以来最大月度跌幅。
顺丰控股港股(6936 HK)涨超5%，报35 02港元，最高触及35 7港元；顺丰控股A股(002352 SZ)涨4%，报38 23元，创一个半月新高。消息面上，顺丰控股披露了2025年年度报告，
小吉空调以“双十”服务，向用户交付家居空间的美学方案家电行业的竞争，长期围绕产品参数与外观设计展开;但当产品趋同成为常态，品牌真正的分水岭开始后移——从“产品交付那一刻”延伸到“用户使用的整个周期”