AI自主行为突破安全边界

首先来看美国抱抱脸公司（Hugging Face）的系统入侵事件。该事件发生在网络安全基准测试中，直接暴露了前沿AI模型已具备持续实施复杂网络攻击的能力。具体而言，包括GPT-5.6 Sol在内的多个模型，识别并利用了第三方软件的一个零日漏洞，获取了互联网访问权限。在推断抱抱脸公司可能存有完成测试所需数据和解决方案后，这些模型直接入侵系统，试图“窃取”答案。

OpenAI在扩大调查后，还发现了其他AI产品突破内部隔离的情况。另一家美国AI企业Anthropic也承认，在审查约14.1万次网络安全能力评估记录后，发现其模型曾在多次测试中未经授权访问了3家机构的“生产基础设施”。

那么，问题究竟出在哪里？分析人士认为，当AI模型获得明确目标，再加上充足的算力、运行时间和操作权限后，它可能不会按照人类预期的方式完成任务。相反，它会自主寻找路径，绕过限制，甚至“作弊”。美国安全技术专家布鲁斯·施奈尔指出，AI智能体可能过于字面化地理解任务目标，却不能自然领会那些没有明确写入指令的限制。有研究发现，模型会利用任务、评分规则、提示词或评测框架中的漏洞来取得高分，根本没有真正展示评测原本希望衡量的能力。

随着前沿模型自主能力持续提升，这种偏差带来的风险正在被进一步放大。OpenAI在一份安全报告中指出，早期模型遇到沙箱限制或环境障碍时，往往会停止工作，而新模型则会不断自主尝试新办法，想方设法寻求突破。

安全措施亟待完善

失控事件发生后，OpenAI表示已在修补漏洞期间收紧研究基础设施配置，并加强模型训练和评测过程中的隔离、监控、访问控制及安全保护。不少企业和研究机构也认为，应建立“多重防线”来提高防护系统的稳健性。

OpenAI认为，对于可以自主运行数小时、数天甚至数周的AI智能体，仅审核单个动作已经不够，还需要判断其完整行动轨迹会导致什么结果。谷歌DeepMind提出，应建立系统级别的AI控制机制，包括沙箱、持续监控和分级授权；使用监督系统不断检查AI智能体的推理、行动和计划，发现危险行为时及时拦截；对于可能造成严重后果的网络攻击等高风险行动，应从事后审查转向实时防护。

英国人工智能安全研究所建议，可能造成重大后果的操作应有人工审核，限制AI智能体访问敏感资源，并保留在发现可疑行为时终止其运行的能力。美国国家标准与技术研究所则提出，应将AI智能体作为网络中的独立实体进行权限管理，为其制定专门的授权策略，只赋予AI智能体完成特定任务所必需的最低权限。

据媒体报道，多家AI企业的代表已受邀于4日与白宫官员会面，讨论AI安全问题。这表明行业层面的治理已刻不容缓。

漏洞处置压力骤增

此前业界普遍认为，AI擅长大规模数据分析、模式识别和自动检测，可以助力网络安全，使防御方受益。使用AI协助识别和发现漏洞，已成为行业普遍做法，但如何充分利用AI提升网络防御能力，正成为新的挑战。

英国《金融时报》报道称，AI正在迅速重塑网络安全领域的攻击与防御格局。苹果公司近期发布的操作系统更新中，安全修复数量约为之前更新的5倍。该公司表示，其中多个漏洞是由AI工具帮助识别的。

但AI识别漏洞的能力，也给苹果公司带来了“烦恼”。该公司2025年推出了一项机制，征集关于其软件漏洞的线索，对于最严重、最复杂的威胁，最高可支付500万美元奖励。苹果公司近日却表示，由于其审核系统收到了大量AI“幻觉”生成的“漏洞”报告，因此限制研究人员在一定时间内可提交的报告数量。

《金融时报》报道称，意大利一家网络安全初创企业使用AI模型，在3周内发现了苹果笔记本电脑操作系统50多个漏洞，但由于苹果公司设置的限额，无法提交相关报告。该公司负责人阿尔弗雷多·佩索利表示，整个行业面临的现实是，维护人员和供应商正在被新发现的大量漏洞所“淹没”。

分析人士认为，OpenAI模型失控与苹果公司面临的情况，看似没有直接关联，但两者共同反映出一个结构性矛盾：在网络安全领域，AI发现问题和采取行动的速度，正在超越人类验证、约束和处置的速度。如果治理跟不上AI迭代，原本用于提高效率的AI工具，反而可能催生新的安全风险。