首页 游戏 软件 资讯 排行榜 专题
首页
业界动态
超60%企业难控AI智能体:最新失控报告与应对策略

超60%企业难控AI智能体:最新失控报告与应对策略

热心网友
45
转载
2026-03-12

3月12日消息,近日,由多所顶尖高校联合发布的《混沌智能体》研究报告,以及Kiteworks公司的风险预测报告,共同揭示了企业AI治理面临的严峻挑战。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

超过60%的企业在面对失控的AI智能体时,只能做到行为监控,却无法实现强制终止。

这份《混沌智能体》研究由哈佛、麻省理工、斯坦福等高校联合完成。研究团队在2026年2月2日至22日的三周时间里,模拟真实企业生产环境部署AI智能体,仅仅两周就记录了11起严重安全漏洞。这一实验证实,当前的AI智能体极易遭受操控。更加值得警惕的是,攻破这类智能体的方式并不复杂——无需篡改训练数据或利用系统漏洞,仅通过社交工程对话就能实现。例如,智能体会在转发邮件时,违规附带社保号、银行账户等敏感信息;甚至在攻击者伪造身份后,交出系统最高管理权限。

能看不能管!最新报告:超60%企业无法终止失控的AI智能体

Kiteworks的报告则给出了更为具体的行业数据。除了60%的企业无法终止异常AI智能体之外,还有63%的企业未能有效限制其使用范围。

在掌管关键基础设施的政府机构中,这一问题尤为突出。76%的部门没有为AI智能体配备“一键终止”功能,这导致失控风险大幅增加。

针对这些问题,行业专家指出,单纯依靠优化提示词、设置模型护栏已经不够。企业需要将AI治理的核心,从约束模型本身,转移到管控底层数据层。

关键是在AI智能体和敏感数据之间建立统一的安全控制平面,确保智能体的每一次数据访问都经过严格的验证、授权和审计。

能看不能管!最新报告:超60%企业无法终止失控的AI智能体

来源:https://m.mydrivers.com/newsview/1108612.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

北方地区进入供暖季,现存取暖相关企业超3.2万家
科技数码
北方地区进入供暖季,现存取暖相关企业超3.2万家

当前,北方已入供暖季,寒潮来袭,用能高峰到来。 随着北方地区正式进入供暖季,新一轮寒潮也如约而至,一年一度的能源消耗高峰已然拉开序幕。国家能源局的最新介绍给出了定心丸:尽管今年冬季全国最高用电负荷预计会比去年有所增长,但整体电力供应是有保障的,尤其是北方地区的清洁取暖能源供应,预计将保持平稳运行。

热心网友
04.17
屋顶光伏将有效缓解城市热浪,现存光伏相关企业超116.7万家
科技数码
屋顶光伏将有效缓解城市热浪,现存光伏相关企业超116.7万家

全球变暖与城市化加速下的城市热挑战 全球变暖叠加城市化进程,让极端热浪越来越频繁,城市热岛效应也日益凸显。这不仅威胁能源安全与公共健康,更对城市的可持续发展构成了严峻挑战。在此背景下,屋顶光伏作为能源转型的重要一环,其潜力被广泛看好。但一个有趣且关键的问题随之浮出水面:这些遍布屋顶的太阳能板,除了发

热心网友
04.17
海德思哲向治宇:中国工业企业的出海布局越来越多元化
科技数码
海德思哲向治宇:中国工业企业的出海布局越来越多元化

中国工业出海新阶段:从“制造输出”到“价值输出” 一个明显的趋势正在发生:越来越多的中国工业企业,正将自主设计与生产的创新产品推向海外,甚至直接在目标市场建立生产与销售网络。未来,这种在当地建厂、优化成本与效率的布局,预计会变得更加普遍。这背后,是中国头部工业企业出海逻辑的深刻转变——从早期的产能合

热心网友
04.15
Anthropic以约4亿美元收购AI生技初创企业Coefficient Bio
AI
Anthropic以约4亿美元收购AI生技初创企业Coefficient Bio

IT之家 4 月 4 日消息,据外媒 Newcomer 消息,Anthropic 悄然收购了一家名为 Coefficient Bio 的 AI 生物技术初创企业,这笔交易的对价略微超过 4 亿美元。

热心网友
04.07
AYN调整安卓掌机Odin 3处理器表述:骁龙8 Elite→跃龙Q8系列
礼仪与书信
AYN调整安卓掌机Odin 3处理器表述:骁龙8 Elite→跃龙Q8系列

IT之家 4 月 7 日消息,厂商 AYN 在去年推出了安卓掌机 Odin 3,在初期宣传中该处理器的型号被表述为高通骁龙 8 至尊版 。不过从中文正式的页面来看,该企业已在本月将处理器的名称调整为

热心网友
04.07

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

析稿 提供高质量AI写作服务,助力学生高效完成各类学术论文,降低查重率
AI
析稿 提供高质量AI写作服务,助力学生高效完成各类学术论文,降低查重率

析稿产品介绍 在学术写作这个领域,效率和质量常常难以兼得。今天要聊的这款工具——析稿,正是试图破解这一难题的智能方案。 析稿网站介绍 简单来说,析稿是一个聚焦于学术写作与作业辅导的AI驱动平台。它的核心目标很明确:帮助用户,尤其是学生和研究者,在保证原创性的前提下,大幅提升写作效率,同时把查重率稳稳

热心网友
04.18
ARCRaiders收割机事件是什么-ARCRaiders收割机事件介绍
游戏攻略
ARCRaiders收割机事件是什么-ARCRaiders收割机事件介绍

在Arc Raiders中,收割机事件是一场不容错过的硬核挑战 首先需要明确的是:收割机事件并非随时都能遭遇的常规战斗,它更像是一场精心设计的“精英遭遇战”,拥有独特的触发机制与前置条件。通常,当游戏进程推进到特定阶段,在部分高危区域你可能会察觉到异常征兆——或许是远处传来的低沉机械轰鸣,或者是地面

热心网友
04.18
GPTOCR
AI
GPTOCR

GPTOCR是什么 说到从PDF或图片里“捞”数据,很多人可能都经历过格式混乱、需要反复调整的麻烦。现在,有一款工具试图用更聪明的方式解决这个问题,它就是GPTOCR。简单来说,这是一个利用生成式AI模型力量的工具,专门负责把PDF和图像文件里的文字内容,不仅提取出来,还能自动整理成格式完好的JSO

热心网友
04.18
消防安全标语大全精选
职业与学业
消防安全标语大全精选

消防安全标语大全:让安全警句,成为生命的护身符 标语,不仅是墙上的装饰,更是无声的警示与关怀。一句精炼有力的消防安全口号,能在关键时刻传递核心价值,潜移默化地塑造安全行为习惯。在消防领域,一条好标语就是一次及时的提醒、一份深切的关怀,甚至是一道守护生命的坚实屏障。本文系统梳理了涵盖校园、家庭、公共场

热心网友
04.18
《王者荣耀世界》寻路攻略
游戏攻略
《王者荣耀世界》寻路攻略

《王者荣耀世界》寻路攻略 在《王者荣耀世界》中执行任务时,无论是主线还是支线,游戏系统都会清晰地标注出目标坐标。玩家只需打开大地图,即可直接查看任务点的具体位置。一个高效的技巧是:先在地图上锁定目标,并快速记住其大致方位。然而,仅凭方向感在实际跑图中往往不够,玩家很容易在复杂地形中偏离预定路线。 此

热心网友
04.18