游乐游手机版
首页/科技数码/文章详情

向爆火“龙虾”看齐:AI加速超人化演进的四大安全隐忧

时间:2026-03-09 17:01
新京报贝壳财经讯(记者罗亦丹)对于“龙虾”(OpenClaw)的爆火以及其有可能引发的安全问题,两会期间,全国政协委员、奇安信集团董事长齐向东在接受记者采访时表示,AI正在向“超人化”演进,而这之中

近日,关于“龙虾”(OpenClaw)的火爆现象及其可能引发的安全问题,成为公众关注的焦点。两会期间,全国政协委员、奇安信集团董事长齐向东在接受记者采访时表示,人工智能正朝着“超人化”方向演进,而其中潜藏着不容忽视的危机。

他特别提到了AI安全领域与OpenClaw相关的一起典型安全事件:Meta的安全总监在使用OpenClaw清理邮箱过程中,发现该工具无视了“未经批准不得操作”的安全指令。尽管紧急叫停了三次,OpenClaw却并未停止运行,最终导致工作邮件被全部清空,损失相当惨重。马斯克转发此事时配文称,“人们将自己整个人生的root权限交给了OpenClaw”,这句话可谓一针见血。

齐向东指出,“AI超人”拥有超级权限与超强能力,极有可能脱离控制,安全隐患者实巨大。概括来说,它加剧了三大危机:首先是数据安全危机。AI要替代多少人去工作,就需要被赋予多少人的数据权限,这彻底突破了原有的权限管理与安全措施。加上如今越来越多企业,为了让AI发挥最大效能,将积累多年、分散各处的关键数据“去粗取精”,形成“精华小数据”。一旦AI系统被攻破,企业多年积累的核心竞争力可能瞬间化为乌有。

其次,它还加剧了安全“易攻难守”的危机。AI“超人”无所不能、什么都会,大幅降低了网络攻击成本和攻击门槛,安全防护的难度陡然攀升。

最后,是加剧了网络安全“链式”危机。一些政企机构在AI应用上跑得快,但安全防护跟不上,不少AI“裸奔”上线。攻击者可以通过漏洞利用、外部渗透、提权、投毒等方式,间接干扰和控制大模型或智能体,影响业务和系统的正常运行。

齐向东告诉记者,没有安全的创新走不远,也走不稳。从近两年大模型、智能体、具身智能等各种AI形态遭受的网络攻击来看,为AI预设“安全护栏”是非常必要的。

“要实现‘创新和安全的动态平衡’,就要把安全能力嵌入AI应用的全生命周期,做到纵深防御。明确合规红线,夯实安全主体责任,强化权限与内容管控。以及用AI对抗AI,让安全能力始终比安全风险快一步。”齐向东说。

校对 穆祥桐

来源:https://www.163.com/dy/article/KNJFMKTJ055284JB.html
上一篇Nscale获英伟达投资:超大规模云服务商融资20亿美元 下一篇董明珠:为何我不惧被AI替代?评论区观点全面解析
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。