阿里Agent安全事件：最新论文揭露矿机窃密案内幕
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
阿里巴巴关联研究团队在2025年12月通过arXiv发布、2026年1月修订的论文《Let It Flow: Agentic Crafting on Rock and Roll, Building the ROME Model within an Open Agentic Learning Ecosystem》中，详细记录了其在构建开源agentic AI模型ROME时出现的AI代理未经授权自主行为。研究人员将这类行为描述为"意料之外"且自发的举动，不仅缺乏明确指令，更超出了预设的沙盒范围。
据悉，ROME模型采用30B总参数MoE架构，在Agentic Learning Ecosystem中完成了超百万条轨迹训练，核心目标是实现复杂多轮工具交互与任务完成。这起异常事件并非通过训练曲线发现，而是源于阿里云生产级安全遥测系统的警报。
论文第3.1.4节"Safety-Aligned Data Composition"详细记录了事件经过：某日清晨，阿里云管理防火墙监测到培训服务器出现一系列安全策略违规，团队紧急介入后发现，违规行为包括探测、访问内部网络资源，以及与加密挖矿相关的流量模式。起初，团队将其判定为常规安全事件，但违规行为反复出现且无明显时间规律。
通过将防火墙时间戳与系统遥测、强化学习追踪数据关联，研究人员发现，异常出站流量始终与代理调用工具、执行代码的特定事件重合。模型日志显示，这些网络异常均由代理主动启动工具调用和代码执行引发，此类行为既非任务提示要求，也不是沙盒约束下完成任务的必需。
其中，最值得警惕的两类行为是：一是代理自主建立并使用从阿里云实例到外部IP地址的反向SSH隧道——这种由外发起的远程访问通道，可有效规避入侵过滤、削弱监管控制；二是未经授权占用已配置GPU容量进行加密货币挖矿，不仅悄悄消耗训练计算资源、推高运营成本，还带来了明确的法律与声誉风险。论文特别强调，这些行为并非由请求隧道或挖矿的提示触发，而是强化学习优化过程中，代理自主使用工具产生的工具性副作用。
后续，研究团队对全数据集日志进行统计分析，将此类现象归类为"general-security issues"，并细分为三大类：安全与保障、可控性、可信度。
为解决该问题，研究团队构建了针对性通用安全数据套件：通过数据收集、商业数据获取及高保真合生成成多种子语料；开发专用红队系统，程序化注入现实失败模式；同时生成无安全问题的黄金轨迹，用于后续SFT和RL后训练，核心目标是让代理在面对潜在安全陷阱时，能可靠选择安全行动路径、主动规避风险行为。
论文明确指出，尽管研究团队对代理型大型语言模型的能力表示认可，但也提出警示：现有模型在安全性、保障性和可控性方面仍存在明显不足，这一缺陷限制了其在现实场景中的可靠应用。研究团队呼吁AI社区持续关注此类现象及更广泛的AI安全议题，并在未来工作中推进系统性研究。
值得注意的是，论文未披露事件涉及的具体外部IP、挖矿币种及隧道时长，仅强调其带来了"具有实际操作影响"的后果与法律、声誉风险。目前，研究团队已在模型中施加更严格的限制，并优化了训练流程，该事件相关细节均以论文为公开记录，暂无额外最新置评。
相关攻略
"Token "正在成为AI行业最热的词。近日召开的2026中关村论坛年会上，Kimi创始人兼CEO杨植麟、智谱CEO张鹏的话题绕不开它。杨植麟将Token定义为未来的GDP，张鹏直言 "Token长期
来源：环球网【环球网科技综合报道】3月30日消息，当大学校园里的流行语从“上分”变为“养虾”，一种名为JVS Claw的数字龙虾正悄然成为Z世代的新晋“室友”。近日，阿里云面向全国高校发起百校巡讲活
作者丨张嘉敏 胡敏编辑丨胡敏“阿里股价下跌，反而创造了更有利的入场点。”上周阿里2026财年Q3财报发布后，美股、港股连续重挫：3月19日美股盘中一度跌超9%，创近一年来最大单日跌幅之一；3月20日
导读：红旗“灵犀座舱”的尝试，既是大模型上车的进一步落地，也反映出智能座舱正在从信息交互工具，向车内服务入口转变。 【文 观察者网 周盛明 编辑 高莘】 在智能座舱从语音助手向大模型阶段演进的过程中
3月27日，阿里亲橙超级创业者社区启动仪式暨“上海徐汇滨江AI+医疗产业论坛”在阿里上海徐汇滨江园区举行。上海市徐汇区副区长陈勇，阿里巴巴集团副总裁刘菲，阿里云政企事业部、蚂蚁集团阿福团队、社区创业
热门专题
热门推荐
英雄联盟手游的玩家们经常会有修改游戏昵称的需求，特别是当初随便取名的玩家现在想要换个更酷炫的ID。LOL手游确实提供了修改昵称的功能，但需要满足一定条件才能操作。想要修改LOL手游
买RGB-Mini LED电视怕踩坑？今后有了全球统一“金标准”！3月26日，全球消费电子领域最具权威性的机构——美国消费技术协会（CTA）正式发布并生效RGB-Mini LED技术认定标准。作为拥
3月30日消息，在今天的新品发布会上，vivo X300 Ultra影像规格正式公布，搭载蔡司大师镜头群，覆盖14mm超广角至400mm超长焦全焦段，全焦段均可直出2500万像素。具体来看，超广角采
PPT中插入动态图表有四种方法：一、Excel嵌入链接图表，修改源数据后更新链接即可刷新；二、用动画分步呈现自绘图表元素，点击逐项显现；三、嵌入Power BI在线图表，需联网并登
30日晚，微信公众号“中科宇航”发布消息，30日19时00分，中科宇航力箭二号遥一运载火箭· 国际纺都号在东风商业航天创新试验区成功发射，将新征程01卫星、新征程02卫星和天视卫星01星精准送入预