本次查询：Trustworthy AI
中文解释：可信人工智能
常见场景：医疗诊断 / 金融风控 / 自动驾驶 / 司法辅助 / 招聘筛选
一句话解释
可信人工智能是一套确保AI系统在生命周期中始终安全、透明、公平、可问责且尊重人类自主性的原则与实践框架。它要求AI不仅性能优秀，还要让用户放心使用。
为什么会被关注
随着AI深入医疗、金融、司法等高风险领域，黑箱决策、算法偏见、数据滥用等问题频发，导致公众信任危机。欧盟《人工智能法案》、中国《新一代人工智能治理原则》等法规均将可信AI作为合规前提。
企业部署AI时，若缺乏信任机制，用户拒绝使用、监管处罚、声誉损失都将成为风险。因此，从技术到治理的全链路可信建设成为刚需。
核心逻辑
可信AI通常包含七个关键维度：安全性（抵御攻击）、公平性（消除歧视）、隐私保护（数据最小化）、可解释性（决策过程可理解）、透明度（系统行为可审计）、可控性（人类始终处于决策闭环）以及责任感（明确归责）。
实现这些维度需要技术手段（如对抗训练、差分隐私、可解释模型）与管理手段（如伦理审查、影响评估、人工审核）相结合，形成从设计到运维的持续信任验证闭环。
常见场景
在医疗诊断中，AI给出的治疗方案必须可解释且无种族或性别偏见，医生才能放心采纳；金融风控系统需通过公平性审计，避免对特定群体拒贷；自动驾驶则要求模型对传感器噪声和恶意攻击具有鲁棒性。
招聘系统使用AI筛选简历时，需要定期检测性别或地域歧视，并允许候选人要求解释未通过原因；司法量刑辅助系统更需严格验证，确保不加剧社会不公。
容易混淆的点
常有人将“可信AI”等同于“可解释AI”，但前者更宽泛——可解释只是手段之一，安全、公平、隐私等同样重要。此外，“可信”不是一次认证就能达成的静态标签，而是一个持续验证的动态过程。
另一个误区是认为可信AI会牺牲性能。实际上，通过合理设计（如引入因果推理或鲁棒优化），可信AI能在保证可靠性的同时实现接近甚至超越普通模型的准确率。