本次查询：模型压缩
中文解释：模型压缩
常见场景：移动端AI应用 / 边缘计算 / 实时推理 / 成本敏感的商业部署
一句话解释
模型压缩就像给一个庞大的AI模型做“瘦身手术”，通过一系列技术手段，在尽量保持其“聪明才智”（性能）不变的前提下，大幅减小它的“体积”（参数量）和“饭量”（计算与存储开销），从而让它能塞进手机、汽车甚至智能手表里运行。
为什么会被关注
随着ChatGPT等千亿级参数大模型的出现，AI能力虽强，但其巨大的算力消耗和部署成本让普通企业和开发者望而却步。模型压缩技术是解决这一矛盾的核心，它让大模型的落地从昂贵的云端服务器走向每个人的口袋和工厂的边缘，是AI普惠和商业化的关键推手。
核心逻辑
其核心思想是“去芜存菁”。研究发现，大型神经网络中存在大量冗余（如不重要的连接、权重）。压缩技术通过“剪枝”移除冗余连接，“量化”降低数值精度，“知识蒸馏”让小模型模仿大模型的行为，以及设计更高效的“网络架构”，在精度和效率间取得最优平衡。
常见场景
1. 手机端AI：让手机直接运行语音助手、美颜、图像识别模型，无需联网，保护隐私且响应快。
2. 自动驾驶：车载芯片算力有限，必须使用压缩后的模型进行实时物体检测与决策。
3. 工业物联网：在摄像头或传感器设备上本地运行缺陷检测模型，降低数据传输成本和延迟。
4. 成本控制：企业使用压缩模型能大幅降低云服务API调用费用或自建服务器的成本。
容易混淆的点
模型压缩 vs. 模型选择：压缩是对一个现有大模型进行精简优化；而模型选择是直接从头训练或挑选一个天生就小的模型（如MobileNet）。两者常结合使用。
压缩 vs. 加速：压缩主要关注减少模型大小和参数，是加速的重要手段之一，但加速还包括专用硬件（如NPU）和软件优化层。压缩是前提，软硬件协同才能实现极致效率。