本次查询：模型监控
中文解释：模型监控
常见场景：金融风控 / 推荐系统 / 自动驾驶 / 医疗诊断
一句话解释
模型监控就像给AI模型装上一套“智能体检仪”，持续监测它的预测是否准确、输入数据是否异常、输出是否公平，当模型变“老”或变“偏”时自动报警，让人工智能保持可靠运行。
为什么会被关注
随着AI渗透到贷款审批、疾病诊断等关键决策领域，模型一旦失效会带来巨大损失。许多训练时优秀的模型上线后因为数据分布变化、用户行为迁移，性能会悄悄下滑。模型监控能提前发现这些问题，避免“冷启动好、长期跑偏”的陷阱。
企业需要满足监管合规要求（如欧盟AI法案、金融业模型审计），也要求对模型行为有持续记录和解释。模型监控因此从可有可无的“附加功能”变成AI系统必备的安全组件。
核心逻辑
模型监控主要围绕三个维度：输入监控（数据是否漂移）、输出监控（预测分布是否突变）、性能监控（精度、召回等指标是否下降）。常用统计检验如PSI（群体稳定性指标）、KS检验来量化变化。
监控系统会设置阈值，当指标超过阈值时触发告警，提示模型需要重新训练或人工排查。高级监控还会结合因果分析，找出导致性能变化的根因，而不是简单“变差”就重训。
常见场景
在金融领域，风控模型要监控用户申请数据的分布是否因季节、政策而偏移，防止误拒或误批。推荐系统则关注用户点击率、物品曝光量是否异常下降，及时调整排序策略。
自动驾驶需要监控环境感知模型的置信度变化，避免雨天、隧道场景下识别失效。医疗影像诊断模型会持续追踪不同医院设备采集的图像质量差异，确保诊断一致性。
容易混淆的点
“模型监控”不等于“模型测试”。测试通常在离线阶段用历史数据评估，而监控是针对生产线上实时数据或流数据，关注的是在线表现与离线表现之间的差距。
“数据漂移”与“概念漂移”经常被混用。数据漂移指输入特征分布变化，概念漂移指输入-输出映射关系改变；监控需要同时覆盖二者，并理解不同类型会触发不同的应对策略（重采样vs重训练）。