超60%企业难控AI智能体：最新失控报告与应对策略
3月12日消息，近日，由多所顶尖高校联合发布的《混沌智能体》研究报告，以及Kiteworks公司的风险预测报告，共同揭示了企业AI治理面临的严峻挑战。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
超过60%的企业在面对失控的AI智能体时，只能做到行为监控，却无法实现强制终止。
这份《混沌智能体》研究由哈佛、麻省理工、斯坦福等高校联合完成。研究团队在2026年2月2日至22日的三周时间里，模拟真实企业生产环境部署AI智能体，仅仅两周就记录了11起严重安全漏洞。这一实验证实，当前的AI智能体极易遭受操控。更加值得警惕的是，攻破这类智能体的方式并不复杂——无需篡改训练数据或利用系统漏洞，仅通过社交工程对话就能实现。例如，智能体会在转发邮件时，违规附带社保号、银行账户等敏感信息；甚至在攻击者伪造身份后，交出系统最高管理权限。
Kiteworks的报告则给出了更为具体的行业数据。除了60%的企业无法终止异常AI智能体之外，还有63%的企业未能有效限制其使用范围。
在掌管关键基础设施的政府机构中，这一问题尤为突出。76%的部门没有为AI智能体配备“一键终止”功能，这导致失控风险大幅增加。
针对这些问题，行业专家指出，单纯依靠优化提示词、设置模型护栏已经不够。企业需要将AI治理的核心，从约束模型本身，转移到管控底层数据层。
关键是在AI智能体和敏感数据之间建立统一的安全控制平面，确保智能体的每一次数据访问都经过严格的验证、授权和审计。
相关攻略
3月25日消息，近日，A股上市公司大叶股份披露重大并购公告，其全资子公司AL-KO Geräte GmbH仅以1欧元（约合人民币8元）的价格，收购了德国ARE Kleinkotz Verwaltun
一项调查显示，75%的CIO对过去18个月的重大AI采购决策感到后悔，近三成甚至被要求解释无法完全理解的AI输出结果。 如今，绝大多数CIO都对自己所在企业做出的重大AI采购决策感到后悔，其中许多人
IT之家 3 月 16 日消息，今天午间，据彭博社援引知情人士消息称，阿里巴巴准备推出一款企业级 AI 智能体产品。随着 OpenClaw 等能够替用户完成任务的 AI 助手迅速走红，阿里巴巴希望借
3月12日消息，今年4月1日将迎来苹果公司成立50周年纪念日。今日，苹果CEO蒂姆·库克发布主题为《50 Years of Thinking Different》的公开信，纪念这一重要时刻。库克在信
人工智能公司Anthropic宣布推出Claude合作伙伴网络，并承诺投入1亿美元初始资金，押注通过第三方合作生态系统加快Claude在企业市场的落地。3月12日周四，Anthropic表示投入1亿
热门专题
热门推荐
洛克王国世界圣羽翼王怎么样？大家在洛克王国世界里到处跑的时候，肯定都想找个又能打、跑得又快的精灵。圣羽翼王就是那种，能在天上飞着就把对面打懵的角色。今天小编就带来洛克王国世界圣羽翼
如果把谍战剧当成一场比赛，《悬崖》绝对不是那种节奏飞快、比分拉锯的对攻战，它更像一场在冰面上踢的“慢速决赛”——每一步都滑，每一次失误都可能直接出局。它没有那么多枪火轰鸣，却用一寸一寸逼近的危机，把
可在PPT中通过三种方式实现打字机音效：一、用“出现”动画设“按字母”播放并选内置“打字机”声；二、插入自定义WAV音效，同步逐字动画时长；三、分段文本框+触发器，为每句绑定独立音
在日常使用钉钉的过程中，不少用户希望能便捷地获取天气信息。其实，钉钉是可以显示天气的，以下为您详细介绍具体方法。首先，打开手机中的钉钉应用程序。进入钉钉主界面后，点击界面左上角您所
在红色沙漠中，想要进入埃尔南德城堡。需先获得埃尔南德宴会服，可通过完成主线“善意的考验-二话不说地伸出援手”由阿兰赠送，或在铁匠铺旁服装店购买，穿上该礼服即可进入城堡，未穿则会被门卫阻拦。红色沙漠进