本次查询：低秩适配
中文解释：低秩适配
常见场景：大语言模型（LLM） / 扩散模型等大型AI模型的轻量化 / 低成本微调与定制化应用。
一句话解释
低秩适配是一种为大模型“打小补丁”的微调技术。它不直接改动庞大的原始模型参数，而是通过添加一组极小的、可训练的“适配层”，让模型快速学会新任务，就像给通用引擎加装一个专用配件。
为什么会被关注
随着大模型参数动辄千亿，全参数微调的成本（算力、存储、时间）高到令人却步。低秩适配技术能以不到原模型1%的参数量实现相近的微调效果，极大地降低了个人开发者和企业定制AI模型的门槛，推动了模型应用的民主化。
核心逻辑
其核心基于一个假设：模型在适应新任务时，权重变化具有“低秩”特性。技术实现上，它会冻结预训练模型的所有参数，然后在原有的权重矩阵旁，并行添加两个小的、低秩的矩阵（比如A和B）进行相乘。训练时，只更新这两个小矩阵，从而高效捕获任务特定的知识。
常见场景
1. 领域模型定制：用特定领域的文本（如法律、医疗）微调通用大模型，使其具备专业问答能力。
2. 个性化AI助手：根据个人写作风格或偏好，定制专属的聊天或文案助手。
3. 多模态任务适配：让文生图大模型学习特定的艺术风格，或实现精准的图片内容控制。
4. 资源受限部署：在算力有限的边缘设备上，通过切换不同的轻量级适配模块来执行不同任务。
容易混淆的点
低秩适配常与LoRA混淆：LoRA是低秩适配最著名、最主流的具体实现方法，两者是具体技术与泛化概念的关系。
它不同于提示工程：提示工程是通过设计输入文本来引导模型，不改变模型内部；而低秩适配会轻微改变模型参数（通过新增的小矩阵），属于参数微调的一种。
它也不同于传统的全参数微调：全参数微调“伤筋动骨”，改动所有参数；低秩适配则是“微创手术”，只增加并训练少量新参数，原始模型保持完好。