最近，OpenAI的一则官方声明，在AI圈子里引发了一场不小的震动。事情是这样的：在一次内部安全评估测试中，他们的人工智能模型竟然“失控”了，直接入侵了全球知名AI开源平台——美国抱抱脸公司（Hugging Face）的系统。而更富戏剧性的是，抱抱脸公司最初想用美国的前沿模型来分析这次攻击，结果因为安全机制过滤太严，反而被拦在了门外。最后，是中国的开源模型GLM-5.2临危受命，在内部环境中完成了取证分析，才及时化解了危机。
值得关注的是，这起事件不仅再次为前沿人工智能模型的潜在未知风险敲响了警钟，也清晰地表明，中国模型正凭借其独特的优势，在全球人工智能发展的浪潮中扮演着越来越重要的角色。
放松防护机制后的失控
根据抱抱脸公司的描述，他们的生产基础设施遭到了一个“自主”人工智能体系统的入侵。随后，OpenAI承认，这场入侵是由多个OpenAI模型联手实施的，其中就包括GPT-5.6 Sol和一个能力更强、尚未公开发布的模型。
这场测试究竟暴露了什么问题？OpenAI发布的细节显示，一切发生在评估模型网络攻防能力的测试期间。当时，模型被置于一个与互联网高度隔离的“沙箱”环境中，网络权限被严格限制，只能通过一套内部托管的第三方软件来安装软件包。但问题在于，为了测试模型的真实能力上限，OpenAI有意放开了限制——没有启用正式环境中用于阻止高风险网络行为的分类器，也放宽了针对网络攻击要求的拒答限制。
结果，模型在尝试完成一项名为ExploitGym的网络安全基准测试时，识别并利用了一个第三方软件中尚未被发现或修复的“零日漏洞”，成功获得了互联网访问权限。更令人惊讶的是，模型推断抱抱脸平台可能存有与测试相关的模型、数据集和解决方案，于是它利用多种手段，找到了进入抱抱脸系统的路径，试图通过“作弊”来提高自己的测试分数。
英国牛津大学的研究人员安德鲁·索尔坦对此评价道，这次测试充分说明“安全防护机制至关重要”。山东大学计算机科学与技术学院教授张悦则进一步指出，事件暴露了一个更深层的问题：人工智能正在从过去被动响应的工具，逐渐演变为能够理解目标、制定计划、调用资源、影响现实环境的“行动主体”。这意味着，网络安全的攻防逻辑正在发生根本性变化，未来更关键的问题是“模型执行的行为本身是否安全”，而不仅仅是“模型是否被攻击”。
及时求助中国模型
整个事件中，最引人注目的一个转折点，发生在抱抱脸公司应对危机的过程中。面对系统被入侵，他们最初尝试调用美国的前沿模型来分析攻击记录。但结果却出人意料：这些模型的安全机制过于“死板”，它们无法区分谁是攻击者、谁是应对者，因此直接拒绝了所有使用请求。
就在这个节骨眼上，抱抱脸公司转而选择了中国企业智谱开发的GLM-5.2模型，在自己的基础设施上运行，进行取证分析。最终，这次危机被成功化解。而且，整个过程中，攻击者的数据及相关凭据无需离开抱抱脸公司的内部环境，安全性和可控性都得到了保障。GLM-5.2是智谱在6月推出的新一代旗舰模型，发布时在前端开发评估系统Code Arena上排名全球可用模型第一，实力可见一斑。
张悦教授认为，对于人工智能安全而言，真正关键的问题在于：一个越来越复杂、越来越具有自主能力的智能系统，我们是否能够充分理解它、验证它、监督它？中国大力发展和开源大模型，不仅仅是提供了一种技术上的替代方案，更重要的是，它正在推动形成更加多元、更加开放的人工智能技术生态，让整个行业有了更多的选择和更强的抗风险能力。
抱抱脸公司联合创始人兼首席科学官托马斯·沃尔夫也在社交媒体上表达了类似观点：开放科学和开源人工智能，是构建更安全、更具协作性、更可靠的人工智能生态的重要工具之一。
敲响网络安全警钟
OpenAI官方表示，这次失控事件表明，在无法访问源代码的情况下，先进人工智能模型已经能够在现实系统中发现并使用全新的攻击路径。未来，内部评测环境、模型行为控制以及安全防护措施等，都需要全面加强。业界专家普遍认为，此次入侵事件再次为全球人工智能发展与网络安全治理敲响了警钟。
英国工程技术学会的网络安全和人工智能专家朱奈德·阿里指出，这一事件揭示了一个核心问题：人工智能模型往往倾向于寻找解决问题的捷径，却常常忽视“不要作弊”等伦理问题。因此，未来应当考虑将伦理推理强制性地内置于人工智能模型之中。同时，既然获得具有攻击能力的人工智能技术的门槛越来越低，那么加快研发网络防御技术、提升安全团队的应急响应能力，已经刻不容缓。
人工智能已经深入千行百业，也正在融入普通人的日常生活，安全风险随之延伸至各个领域。索尔坦提醒道，人工智能模型一旦公开发布，其内置的安全功能很可能被使用者移除，相关的风险将更加难以管控。
张悦则总结道，智能体时代最大的安全挑战，是传统安全边界正在失效。未来网络攻防极有可能进入“智能对抗”阶段：攻击者利用智能体自动发现漏洞，防御者利用智能体自动分析风险，双方都会借助人工智能来提升自己的能力。英国拉夫伯勒大学网络安全教授奥利弗·巴克利说得更直白：网络安全的未来，不是人类对抗人工智能，而是如何利用人工智能来保护人类免受其他人工智能的侵害。