超60%企业难控AI智能体:最新失控报告与应对策略
3月12日消息,近日,由多所顶尖高校联合发布的《混沌智能体》研究报告,以及Kiteworks公司的风险预测报告,共同揭示了企业AI治理面临的严峻挑战。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
超过60%的企业在面对失控的AI智能体时,只能做到行为监控,却无法实现强制终止。
这份《混沌智能体》研究由哈佛、麻省理工、斯坦福等高校联合完成。研究团队在2026年2月2日至22日的三周时间里,模拟真实企业生产环境部署AI智能体,仅仅两周就记录了11起严重安全漏洞。这一实验证实,当前的AI智能体极易遭受操控。更加值得警惕的是,攻破这类智能体的方式并不复杂——无需篡改训练数据或利用系统漏洞,仅通过社交工程对话就能实现。例如,智能体会在转发邮件时,违规附带社保号、银行账户等敏感信息;甚至在攻击者伪造身份后,交出系统最高管理权限。

Kiteworks的报告则给出了更为具体的行业数据。除了60%的企业无法终止异常AI智能体之外,还有63%的企业未能有效限制其使用范围。
在掌管关键基础设施的政府机构中,这一问题尤为突出。76%的部门没有为AI智能体配备“一键终止”功能,这导致失控风险大幅增加。
针对这些问题,行业专家指出,单纯依靠优化提示词、设置模型护栏已经不够。企业需要将AI治理的核心,从约束模型本身,转移到管控底层数据层。
关键是在AI智能体和敏感数据之间建立统一的安全控制平面,确保智能体的每一次数据访问都经过严格的验证、授权和审计。

相关攻略
当前,北方已入供暖季,寒潮来袭,用能高峰到来。 随着北方地区正式进入供暖季,新一轮寒潮也如约而至,一年一度的能源消耗高峰已然拉开序幕。国家能源局的最新介绍给出了定心丸:尽管今年冬季全国最高用电负荷预计会比去年有所增长,但整体电力供应是有保障的,尤其是北方地区的清洁取暖能源供应,预计将保持平稳运行。
全球变暖与城市化加速下的城市热挑战 全球变暖叠加城市化进程,让极端热浪越来越频繁,城市热岛效应也日益凸显。这不仅威胁能源安全与公共健康,更对城市的可持续发展构成了严峻挑战。在此背景下,屋顶光伏作为能源转型的重要一环,其潜力被广泛看好。但一个有趣且关键的问题随之浮出水面:这些遍布屋顶的太阳能板,除了发
中国工业出海新阶段:从“制造输出”到“价值输出” 一个明显的趋势正在发生:越来越多的中国工业企业,正将自主设计与生产的创新产品推向海外,甚至直接在目标市场建立生产与销售网络。未来,这种在当地建厂、优化成本与效率的布局,预计会变得更加普遍。这背后,是中国头部工业企业出海逻辑的深刻转变——从早期的产能合
IT之家 4 月 4 日消息,据外媒 Newcomer 消息,Anthropic 悄然收购了一家名为 Coefficient Bio 的 AI 生物技术初创企业,这笔交易的对价略微超过 4 亿美元。
IT之家 4 月 7 日消息,厂商 AYN 在去年推出了安卓掌机 Odin 3,在初期宣传中该处理器的型号被表述为高通骁龙 8 至尊版 。不过从中文正式的页面来看,该企业已在本月将处理器的名称调整为
热门专题
热门推荐
析稿产品介绍 在学术写作这个领域,效率和质量常常难以兼得。今天要聊的这款工具——析稿,正是试图破解这一难题的智能方案。 析稿网站介绍 简单来说,析稿是一个聚焦于学术写作与作业辅导的AI驱动平台。它的核心目标很明确:帮助用户,尤其是学生和研究者,在保证原创性的前提下,大幅提升写作效率,同时把查重率稳稳
在Arc Raiders中,收割机事件是一场不容错过的硬核挑战 首先需要明确的是:收割机事件并非随时都能遭遇的常规战斗,它更像是一场精心设计的“精英遭遇战”,拥有独特的触发机制与前置条件。通常,当游戏进程推进到特定阶段,在部分高危区域你可能会察觉到异常征兆——或许是远处传来的低沉机械轰鸣,或者是地面
GPTOCR是什么 说到从PDF或图片里“捞”数据,很多人可能都经历过格式混乱、需要反复调整的麻烦。现在,有一款工具试图用更聪明的方式解决这个问题,它就是GPTOCR。简单来说,这是一个利用生成式AI模型力量的工具,专门负责把PDF和图像文件里的文字内容,不仅提取出来,还能自动整理成格式完好的JSO
消防安全标语大全:让安全警句,成为生命的护身符 标语,不仅是墙上的装饰,更是无声的警示与关怀。一句精炼有力的消防安全口号,能在关键时刻传递核心价值,潜移默化地塑造安全行为习惯。在消防领域,一条好标语就是一次及时的提醒、一份深切的关怀,甚至是一道守护生命的坚实屏障。本文系统梳理了涵盖校园、家庭、公共场
《王者荣耀世界》寻路攻略 在《王者荣耀世界》中执行任务时,无论是主线还是支线,游戏系统都会清晰地标注出目标坐标。玩家只需打开大地图,即可直接查看任务点的具体位置。一个高效的技巧是:先在地图上锁定目标,并快速记住其大致方位。然而,仅凭方向感在实际跑图中往往不够,玩家很容易在复杂地形中偏离预定路线。 此





