本次查询：轻量化模型
中文解释：轻量化模型
常见场景：移动端AI应用 / 物联网终端推理 / 边缘计算 / 嵌入式智能硬件
一句话解释
轻量化模型就是把大模型“瘦身”成小模型，让它的参数更少、计算更快，同时在手机上或智能音箱里也能准确完成图像识别、语音唤醒等任务。
它通过剪枝、量化、蒸馏等技术在精度损失可控的前提下显著降低模型体积和推理能耗，是端侧AI落地的核心技术之一。
为什么会被关注
一方面，大模型如GPT、ViT动辄数十亿参数，在云端运行成本高、延迟大，无法满足自动驾驶、实时翻译等对低延时和隐私保护要求的场景。
另一方面，手机、可穿戴设备、智能家居芯片的算力和内存有限，必须使用轻量化模型才能实现AI功能本地化，减少对云端的依赖。
消费者对离线语音助手、实时美颜、运动追踪等功能的需求快速增长，促使企业和研究者把大模型压缩成能塞进小芯片的版本。
核心逻辑
补充说明：剪枝分为结构化剪枝（整层或整通道移除）和非结构化剪枝（单个权重归零），前者更适合硬件加速。量化有训练后量化和量化感知训练两种方式，后者精度损失更小。
知识蒸馏的教师模型通常是大模型，学生模型是轻量结构，通过最小化两者在软标签上的KL散度实现知识迁移。近年来还出现神经架构搜索自动寻找最优轻量结构。
常见场景
智能手机：人脸解锁、实时滤镜、语音助手本地唤醒、相册场景分类。例如MobileNet、ShuffleNet等轻量网络广泛用于安卓/iOS的AI拍摄功能。
物联网与智能家居：智能音箱的离线语音指令识别、摄像头的人形检测、门锁的人脸识别。轻量化模型让这类设备无需联网即可响应。
自动驾驶与工业检测：在车端和边缘网关上的实时目标检测、缺陷识别，如YOLO的轻量变种Tiny-YOLO、NanoDet等。
可穿戴设备：智能手表的运动姿态识别、心率异常预警，模型需在极低功耗的MCU上运行，通常采用二值神经网络或极低比特量化模型。
容易混淆的点
轻量化模型 ≠ 小样本学习。前者关注模型体积和计算量，后者关注用少量数据训练。一个轻量化模型可能需要海量数据蒸馏，而小样本模型可能仍很庞大。
轻量化模型 ≠ 模型蒸馏。蒸馏只是实现轻量化的一种技术，其他方法包括剪枝、量化、低秩分解等，且可组合使用。
轻量化模型 ≠ 边缘计算的全部。边缘计算还包括数据预处理、模型调度、异构计算等，轻量化模型只是其中关键一环。
不要认为轻量化模型总是比原始大模型差：经过充分蒸馏和量化，在特定领域（如人脸检测）轻量模型精度可以接近大模型，且推理速度提升明显。