本次查询：AI合规审查
中文解释：人工智能合规审查
常见场景：企业在开发或部署AI模型前 / 需由法务 / 技术及伦理团队共同审查其是否符合《个人信息保护法》《算法推荐管理规定》等法规要求 / 并评估潜在风险。
一句话解释
AI合规审查就是检查AI系统是否遵守法律、不侵犯用户隐私、不产生歧视，并能在出问题时追溯责任的一套标准化流程。
为什么会被关注
一方面，各国密集出台AI监管法案，如欧盟《人工智能法案》、中国《生成式人工智能服务管理暂行办法》，企业违规将面临高额罚款。另一方面，AI在实际应用中多次出现数据泄露、算法歧视等事件，社会舆论倒逼企业必须重视合规审查。
核心逻辑
AI合规审查基于风险分级原则：先评估AI系统风险等级，再针对高风险场景（如面部识别、信用评分）进行数据来源合法性、算法公平性、可解释性、人工干预机制等专项检查。评估结果需形成报告，并作为产品上线的必要条件。
审查通常包含文档审计（算法说明书、数据隐私承诺）、技术测试（对抗攻击、偏见检测）、流程验证（用户授权链路、投诉反馈渠道）三个维度。
常见场景
企业上线对话机器人前，需要审查训练数据是否包含敏感个人信息，回答内容是否违反公序良俗，以及是否提供拒绝生成或屏蔽关键词的机制。
金融机构使用AI进行信贷审批时，合规审查需验证模型是否对特定人群存在统计性歧视，并确保用户有权利请求人工复核。
社交媒体平台部署推荐算法时，合规审查重点在于算法是否强制用户接受、是否提供关闭个性化推荐的选项，以及青少年模式的执行情况。
容易混淆的点
AI合规审查不等于AI安全测试。安全测试关注模型能否被攻击（如对抗样本），而合规审查更注重法律与伦理层面的要求，如用户知情同意、算法透明度等。
AI合规审查也不同于一般软件测试。软件测试检查功能正确性，合规审查则需要法务、伦理与技术人员协作，评估系统在真实社会场景中可能引发的法律风险。