本次查询：Pruning
中文解释：模型剪枝
常见场景：模型部署 / 边缘计算 / 移动端AI应用
一句话解释
Pruning（剪枝）就像给过度生长的神经网络“理发”，通过剪掉那些对最终输出影响微小的冗余连接或神经元，让模型变得更轻便、更高效，同时尽量保持其原有的“能力”。
为什么会被关注
随着大模型参数规模爆炸式增长，其巨大的存储需求和计算成本严重阻碍了在资源受限设备（如手机、物联网设备）上的部署。剪枝技术能直接将模型“瘦身”数倍甚至数十倍，是实现AI普惠和商业化的关键技术路径之一，尤其在边缘计算和实时应用场景中不可或缺。
核心逻辑
其核心在于评估神经网络中各个参数（权重）或结构单元的重要性，并移除那些重要性低于阈值的部分。常见标准包括权重绝对值大小、梯度信息或其对最终输出损失的贡献度。剪枝后模型通常会经历微调以恢复部分精度，最终形成一个更稀疏、更紧凑的网络。
常见场景
1. 移动端与嵌入式设备：将视觉或语音模型剪枝后部署到手机、智能摄像头中，实现本地实时识别。
2. 大模型轻量化：对百亿、千亿参数的大语言模型进行剪枝，降低推理成本和延迟，使其更适合API服务或企业私有化部署。
3. 联合学习与隐私计算：在设备端进行训练或推理时，小模型能减少通信开销与能耗。
容易混淆的点
剪枝 vs. 量化：剪枝是减少参数“数量”（让网络结构变稀疏），而量化是降低每个参数的“数值精度”（如从32位浮点数变为8位整数）。两者常结合使用，达到最佳压缩效果。
非结构化剪枝 vs. 结构化剪枝：非结构化剪枝移除单个权重，压缩率高但需要专用硬件支持；结构化剪枝移除整个神经元或通道，兼容通用硬件，但压缩灵活性较低。选择哪种取决于硬件平台和部署需求。