先说几个核心判断：当AI从内容生成走向自主执行，AI安全风险的边界正在被重新定义。7月13日，蚂蚁AI安全实验室正式开源了智能体安全护栏SingGuard-NSFA，同时披露了多模态安全护栏SingGuard的详细信息。这两款模型分别对应“自主执行的智能体”和“多模态交互的大模型”两大前沿AI安全场景，标志着蚂蚁在AI安全领域的布局正从点状突破走向系统化、全面化铺开。
过去一年，AI安全事件层出不穷。提示词注入、权限滥用、恶意代码执行、数据泄露——从Amazon Q的提示词投毒，到Microsoft Copilot的数据泄露，再到开源智能体OpenClaw暴露出的提示词注入风险，一个规律愈发清晰：智能体的自主性越强，AI安全风险的放大效应就越显著。2025年12月，OWASP发布了《智能体应用安全十大风险》，系统梳理了智能体特有的安全威胁；2026年5月，国家网信办、国家发展改革委、工业和信息化部联合印发了《智能体规范应用与创新发展实施意见》，首次从国家层面对智能体安全治理提出明确要求。行业已形成共识：AI安全不是锦上添花，而是规模化落地的先决条件。
在此背景下，蚂蚁AI安全实验室此次开源两款AI安全模型，目标非常明确——为大模型和智能体提供更底层的安全能力，而非停留在口号层面。
SingGuard-NSFA：为智能体操作装上“实时刹车”
当智能体从“回答问题”走向“自主办事”，AI开始调用工具、执行代码、编排多步任务，安全风险的重心随之发生了位移。问题的核心不再是“说了什么”，而是“做了什么”。提示词注入、敏感信息窃取、恶意代码执行、资源耗尽、权限滥用——这些行为层面的风险，传统的内容审核体系几乎无法覆盖。
针对这一痛点，SingGuard-NSFA的思路是：在智能体执行动作之前，完成实时安全检测。它从请求拦截和响应兜底两端入手，构建行为安全防护体系。具体来说，基于CIA（保密性、完整性、可用性）原则，结合OWASP等国际安全指南，将智能体风险细分为7大类、28个中类和185个具体场景，并建立了覆盖133种语言、近10万条样本的智能体安全评测体系。
技术实现上，SingGuard-NSFA兼顾了安全审计和实时防护两种需求。它提供两种工作模式：一种模式可以逐条生成详细的风险分析报告，方便事后审查和合规记录；另一种模式则能在50毫秒左右完成单次风险判定，适合线上高并发场景下的实时拦截。此外，它还提供了0.8B、2B、4B、9B四种模型规模，满足不同部署需求。
多项公开评测显示，SingGuard-NSFA在智能体输入、输出安全检测中均取得领先表现。值得注意的是，0.8B模型即可达到8B模型的性能水平，新增风险类别时仅需训练轻量模块，无需重新训练整个模型。这意味着，现有安全护栏的检测能力可以低成本升级，这一点在实际生产环境中尤为重要。
SingGuard：多模态内容安全的“全能守门员”
与智能体操作安全并行的另一条防线，是多模态交互场景下的内容安全。今年6月，Anthropic发布旗舰模型Claude Fable 5，数日内即被研究者用Unicode字符和西里尔字母替换敏感词绕过了安全护栏——模型能还原原意，分类器却视其为陌生拼写，系统提示词因此被套出。传统关键词识别式的护栏，在面对模型越来越强的变形文字、图片和跨模态理解能力时，已经力不从心。
SingGuard正是为此设计的多模态安全护栏。它面向文本、图片及跨模态内容建立统一的安全判断框架，能够识别攻击者将恶意动作隐藏在文字、图片等不同模态中的复杂攻击。同时支持运行时动态加载自然语言安全规则，无需重新训练模型即可完成规则更新，更适用于规则持续演进、业务流量较大的生产环境。
推理机制上，SingGuard采用“快慢结合”模式：先快速完成初步判断，只有面对复杂场景时才启动进一步推理。这种设计在保证检测效率的同时，也显著提升了准确率。
在覆盖文本查询、文本回复、图像、多模态和多语言的6大类评测中，SingGuard在35个数据集及评测切分上的平均F1均为最高。对比对象涵盖Llama Guard 3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等业内最具代表性的主流护栏，SingGuard均实现了全面领先。
中国信通院人工智能研究所安全治理部副主任呼娜英对此表示，随着大模型从内容生成迈向自主执行，AI安全正从内容审核延伸至行为管控和系统治理，成为智能体规模化应用的重要基础能力。蚂蚁AI安全实验室已针对开源智能体框架OpenClaw开展专项安全审计，并于今年4月联合清华大学开源了智能体安全防御插件ClawAegis，为自主智能体提供覆盖全生命周期的安全防护能力。此次SingGuard-NSFA与SingGuard多模态安全护栏相继开源，是蚂蚁集团持续推进AI安全技术研发和开放生态建设的重要实践。
这些AI安全技术的研发与开源，并非凭空而来。它建立在蚂蚁集团二十余年的安全技术积累之上，依托在支付安全、数据安全、隐私保护和风险治理等领域的长期实践。目前，相关能力已应用于蚂蚁阿福、AI版支付宝“阿宝”、支付宝“AI付”等业务场景。
与此同时，蚂蚁集团也在持续参与AI安全标准和治理体系建设。参与IIFAA《终端智能体可信互联技术规范》制定，牵头ITU国际标准《终端智能体可信互联技术规范》立项，并发布了智能体安全可信互连协议ASL。从技术到标准，从开源到产业实践，一条相对完整的AI安全链路正在逐步形成。
