首页 游戏 软件 资讯 排行榜 专题
首页
业界动态
超60%企业难控AI智能体:最新失控报告与应对策略

超60%企业难控AI智能体:最新失控报告与应对策略

热心网友
70
转载
2026-03-12

3月12日消息,近日,由多所顶尖高校联合发布的《混沌智能体》研究报告,以及Kiteworks公司的风险预测报告,共同揭示了企业AI治理面临的严峻挑战。

超过60%的企业在面对失控的AI智能体时,只能做到行为监控,却无法实现强制终止。

这份《混沌智能体》研究由哈佛、麻省理工、斯坦福等高校联合完成。研究团队在2026年2月2日至22日的三周时间里,模拟真实企业生产环境部署AI智能体,仅仅两周就记录了11起严重安全漏洞。这一实验证实,当前的AI智能体极易遭受操控。更加值得警惕的是,攻破这类智能体的方式并不复杂——无需篡改训练数据或利用系统漏洞,仅通过社交工程对话就能实现。例如,智能体会在转发邮件时,违规附带社保号、银行账户等敏感信息;甚至在攻击者伪造身份后,交出系统最高管理权限。

能看不能管!最新报告:超60%企业无法终止失控的AI智能体

Kiteworks的报告则给出了更为具体的行业数据。除了60%的企业无法终止异常AI智能体之外,还有63%的企业未能有效限制其使用范围。

在掌管关键基础设施的政府机构中,这一问题尤为突出。76%的部门没有为AI智能体配备“一键终止”功能,这导致失控风险大幅增加。

针对这些问题,行业专家指出,单纯依靠优化提示词、设置模型护栏已经不够。企业需要将AI治理的核心,从约束模型本身,转移到管控底层数据层。

关键是在AI智能体和敏感数据之间建立统一的安全控制平面,确保智能体的每一次数据访问都经过严格的验证、授权和审计。

能看不能管!最新报告:超60%企业无法终止失控的AI智能体

来源:https://m.mydrivers.com/newsview/1108612.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

阿里云团队版Token Plan上线 支持多坐席分配与管理功能
AI
阿里云团队版Token Plan上线 支持多坐席分配与管理功能

阿里云正式发布团队版Token Plan,这一举措并非简单的功能迭代,而是精准针对企业规模化应用AI的核心需求。新方案集成了Qwen3 6、Kimi-K2 6、GLM-5 1、Wan2 7等十余款主流多模态大模型,并推出标准、高级和尊享三档配置,支持企业根据团队规模与使用场景灵活选择,为企业级AI订

热心网友
05.13
垂直SaaS崛起:深度专业化如何终结通用软件的“低效陷阱”?
业界动态
垂直SaaS崛起:深度专业化如何终结通用软件的“低效陷阱”?

企业效率的真正突破并非来自功能越来越多的通用平台,而是来自深耕单一行业的纵向SaaS 在强监管、重流程的行业里摸爬滚打过的人,大多会有这样的体会:效率的提升,往往不是靠功能堆砌出来的。相比那些需要大量定制、适配的通用型CRM或ERP系统,真正能解决问题的,是那些从一开始就为特定行业量身打造的纵向产品

热心网友
04.22
NT完全入侵教程(新手篇)
网络安全
NT完全入侵教程(新手篇)

企业NT系统密码泄露:一场被低估的网络安全灾难 在当前的商业环境中,Windows NT系统凭借其出色的稳定性和便捷的管理特性,依然是众多企业服务器的核心选择。然而,这套系统的整体安全性,往往高度依赖于一个看似基础却至关重要的环节——管理员账户密码。一旦此密码被恶意攻击者获取,企业面临的将远非单一服

热心网友
04.19
北方地区进入供暖季,现存取暖相关企业超3.2万家
科技数码
北方地区进入供暖季,现存取暖相关企业超3.2万家

当前,北方已入供暖季,寒潮来袭,用能高峰到来。 随着北方地区正式进入供暖季,新一轮寒潮也如约而至,一年一度的能源消耗高峰已然拉开序幕。国家能源局的最新介绍给出了定心丸:尽管今年冬季全国最高用电负荷预计会比去年有所增长,但整体电力供应是有保障的,尤其是北方地区的清洁取暖能源供应,预计将保持平稳运行。

热心网友
04.17
屋顶光伏将有效缓解城市热浪,现存光伏相关企业超116.7万家
科技数码
屋顶光伏将有效缓解城市热浪,现存光伏相关企业超116.7万家

全球变暖与城市化加速下的城市热挑战 全球变暖叠加城市化进程,让极端热浪越来越频繁,城市热岛效应也日益凸显。这不仅威胁能源安全与公共健康,更对城市的可持续发展构成了严峻挑战。在此背景下,屋顶光伏作为能源转型的重要一环,其潜力被广泛看好。但一个有趣且关键的问题随之浮出水面:这些遍布屋顶的太阳能板,除了发

热心网友
04.17

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

Keychron Z11 Ultra 8K分体式Alice键盘5月13日上市
科技数码
Keychron Z11 Ultra 8K分体式Alice键盘5月13日上市

Keychron(渴创)即将发布全新旗舰级机械键盘Z11 Ultra 8K。官方宣布,这款备受期待的“铝坨坨”键盘将于5月13日在全平台正式上市。其核心设计亮点在于采用了创新的平面式分体结构,并基于无Fn区的紧凑型Alice人体工学配列。这种设计旨在显著提升长时间打字或编程的舒适度,通过更符合自然手

热心网友
05.17
Token与Session和Cookie的区别及在Web3中的应用解析
web3.0
Token与Session和Cookie的区别及在Web3中的应用解析

针对cookie、session和token的区别问题,提供了多个更口语化且符合搜索习惯的标题优化版本,包括直接提问式、场景式、详解清单式和简单直白式,旨在更直观地突出核心比较信息并控制标题长度。

热心网友
05.17
Arm客户两年内对AGI芯片需求突破20亿美元
科技数码
Arm客户两年内对AGI芯片需求突破20亿美元

Arm近期的发展势头持续强劲,在最新公布的2026财年第四季度财报会议中,公司披露了一项关键进展:客户对其首款自研处理器——Arm AGI CPU——在2027至2028财年期间的总需求预估已超过20亿美元。相比今年3月产品发布时的初期预期,这一数字增长超过一倍,反映出市场对Arm自研芯片的高度期待

热心网友
05.17
Cerebras AI芯片IPO获超20倍认购 拟上调发行价近30%
科技数码
Cerebras AI芯片IPO获超20倍认购 拟上调发行价近30%

资本市场对AI硬件的热情,似乎找到了一个新的焦点。路透社昨日援引知情人士消息称,AI芯片新锐Cerebras Systems即将进行的首次公开募股(IPO),获得了投资者的热烈追捧,超额认购倍数已突破20倍。根据资本信息平台Dealogic的数据,这桩IPO有望成为2026年以来全球规模最大的一笔。

热心网友
05.17
Token分类全解析:从功能型到治理型如何定义与区分
web3.0
Token分类全解析:从功能型到治理型如何定义与区分

加密货币代币主要分为实用型、证券型、支付型、治理型和资产型五大类。其分类依据核心功能与属性,如是否代表资产、提供使用权或参与治理等。区分标准需结合具体设计、经济模型及法律框架综合判断。

热心网友
05.17