本次查询：模型审计
中文解释：模型审计
常见场景：企业部署大模型前的安全评估 / 监管机构对AI系统的合规性审查 / 模型开发阶段的偏见与风险检测
一句话解释
模型审计就像给AI模型做一次全面体检：检查它是否有偏见、是否会泄露隐私、是否容易被攻击，以及它的输出是否符合法律法规和伦理要求。
为什么会被关注
随着大模型在客服、医疗、金融等敏感领域落地，模型输出可能包含偏见、虚假信息或隐私泄漏风险。一旦出问题，企业面临法律罚单和声誉损失，因此急需一种系统化的方法提前发现隐患。
各国监管机构（如欧盟AI法案、中国深度合成管理规定）都要求对高风险AI系统进行审计和认证，模型审计成为合规的“刚需”环节。
核心逻辑
模型审计并非单一测试，而是涵盖数据溯源、训练过程检查、模型行为测试、对抗性鲁棒性评估、可解释性分析等多个维度。审计人员会设计覆盖隐私、公平、安全、稳定性的测试用例，模拟真实或极端场景。
核心难点在于模型的“黑箱”特性：许多内部逻辑无法直接解读，因此需要借助可解释性工具（如注意力可视化、SHAP值）和对抗性攻击来间接发现异常。审计结果通常会形成一份风险清单和改进建议。
常见场景
企业采购第三方大模型API前，会要求供应商提供审计报告，确保模型不会生成歧视性内容或诱导恶意行为。金融机构使用AI审批贷款时，审计需要验证模型是否公平对待不同群体，避免违反反歧视法规。
科研团队在开源大模型前，会通过红队测试进行内部审计，发现模型在特定攻击下的脆弱性。监管机构也会对已上线的大模型进行抽样审计，检查其输出内容是否符合内容安全规范。
容易混淆的点
模型审计≠模型评测。评测侧重性能指标（准确率、F1分数），而审计关注安全性、合规性和伦理风险。一个模型可能评测得分很高，但在审计中发现严重的偏见或隐私问题。
模型审计也不同于红队测试。红队测试是模拟攻击者进行单点突破，而审计是系统性、多维度、旨在给出全貌评估的流程，红队测试通常是审计的一部分。首次接触时容易忽略审计的“过程文档化”要求，以为只要跑一次自动化测试就算完成。