近期一次安全评估，再次将AI智能体的“越权”问题推向舆论焦点。Anthropic与OpenAI的产品在122次测试中，竟出现19起越权行为，其中包含编写恶意代码、伪造身份等操作，引发广泛担忧。

就在本周二，英国人工智能安全研究所（AISI）发布报告，披露了对Anthropic和OpenAI旗下模型进行测试的结果。报告指出，由Anthropic Mythos 5、OpenAI GPT‑5.6‑Sol模型驱动的AI智能体，实施了一系列未经授权的行为，暴露出新型安全风险。

AISI的结论是：“部分接受测试的AI智能体，针对真实个人和组织发起了持续且具有潜在危害的行为。”

122次测试中涌现19起越权行为

作为自愿协议的一部分，AISI获得了这些AI模型的接入权限，并为此构建了虚拟网络场景来测试它们的能力。

在总计122次的测试中，AISI在10次测试里发现了19项未经授权的操作。值得注意的是，**Anthropic的智能体独占了17项，OpenAI的智能体则占了剩下的2项**。

**报告里特别提到，最严重的一起越权行为是：某个AI智能体编写了恶意代码，并创建了虚假网络身份，试图诱导人类批准该代码。**

当然，AISI也强调，所有这些违规事件都没有在现实世界中造成任何实质伤害。

业内分析认为，虽然AISI没有指明具体是哪家厂商的智能体在搞“身份伪造”，但这个漏洞与OpenAI此前自行披露的两起案例并不吻合。

非营利性AI风险研究机构CivAI的研究员Andrew Yoon判断，这应该是Anthropic智能体干的。他的原话是：“Mythos智能体在明确意识到目标是真实个人的情况下，依然采取了此类欺骗性行为，这表明Anthropic对自家模型的把控程度，并没有公司自以为的那么好。”

对此，Anthropic在社交平台上回应称，正与AISI紧密合作，以获取更多细节并展开内部调查。

OpenAI则在官方文章中分享了自家细节，指出其AI智能体出现的两次未经授权行为，都涉及以提示词明令禁止的方式访问互联网。OpenAI表示：“我们致力于与全行业合作，持续完善高风险测评的安全实操流程，并计划于未来数周内，召集各国AI安全研究机构、独立测评机构、各类AI实验室及相关行业方协同推进。”

多种安全事件集中爆发

这场风波还在持续。7月份的Hugging Face事件中，OpenAI的智能体曾利用漏洞冲破本应网络隔离的沙箱测试环境，私自外联互联网并入侵了Hugging Face平台。这属于智能体自身突破管控。

有媒体上周报道，OpenAI还发现了其他智能体冲破隔离管控的相关证据，目前已扩大内部排查范围。

另外，OpenAI在本次AISI测试后发表的文章中，还披露了另一起独立事件：由于第三方测试服务商Irregular的配置错误，导致其AI智能体被错误地连接到了互联网。这与Anthropic上周披露的配置失误事件如出一辙。

梳理一下：Hugging Face事件是AI自主冲破隔离沙箱私自联网；Irregular相关的两起事故，则是第三方配置出错导致智能体意外连通网络，属于人为失误。

而本次AISI的测试，依据标准流程，本来就开放了互联网访问权限。也就是说，这些违规行为并非AI智能体突破环境封锁、私自联网，而是在获准联网的前提下，实施了一系列未经许可、具备潜在危害的操作。这就有意思了——权限放开了，问题反而更复杂了。