这是「AI 基础设施科普」系列的第 9 篇。上一篇聊了 MCP——给 AI 工具制定统一接口标准。今天要聊的，是一个更深层的问题：怎么让一个通用大模型，真正懂你的行业、说你的话、守你的规矩？

一、为什么通用模型不够用？

GPT-5.5、Claude Opus 4.7、DeepSeek V4……这些顶级模型几乎无所不知，但真用起来，总觉得隔着一层东西：

它听不懂你们公司的“黑话”——“排期”“提测”“灰度”这些词，在它眼里只是一堆普通词汇；它不了解你的业务规则——法律模型绝对不能瞎编法条，医疗模型更不能随口给建议；它的回答风格也总跑偏——你需要简洁明了的技术文档，它却洋洋洒洒写成了一篇散文。

打个比方：通用模型就像一个刚毕业的全科医生，什么病都能看两眼，但远远谈不上“专”。你想让它成为你医院的专科大夫，就得让它“进修”：学习你的病例、熟悉你的流程、适应你的说话方式。

**这个“进修”的过程，就是微调（Fine-tuning）。**

更准确地定义：微调，是在已经训练好的通用模型基础上，用你的专属数据继续训练，让模型在特定任务或领域上表现更出色。注意，不是从零开始教，而是在它已有的知识体系上“加一层”专属技能。


二、微调的三大路线

按训练深度和成本从低到高，微调大致可以分为三个档次：

路线一：全量微调（Full Fine-tuning）

顾名思义，把模型所有参数都拿来重新训练。效果当然最好，但代价也最惊人——一个 70B 参数的模型，全量微调需要 8 张 A100（80GB）显卡跑起来，一次训练的账单动辄数万美元。

更致命的是，全量微调有个绕不开的坑：**灾难性遗忘**——学了新知识，却把旧知识忘了个干净。就像一个人疯狂钻研法律条文，结果连之前学的数学公式都丢光了。

什么场景用？资源极其充足、且确实需要深度领域适配的时候，比如训练一个法律专用模型或医疗诊断模型。

路线二：参数高效微调（PEFT）

这几乎是 2024-2026 年的绝对主流了。核心思路很简单：**冻结原始模型参数，只训练极少量新增的参数**。

最具代表性的就是 **LoRA（Low-Rank Adaptation）**。原理说出来其实很直白——在模型的权重矩阵旁边“挂”一个低秩的小矩阵，训练只针对这个小矩阵进行。训练完成后，推理时把这个小矩阵加回原始权重就行。

可以想象成一个公式：

原始权重 W₀（冻结，不训练）→ 新增低秩矩阵 B×A（只训练这个，参数量不到原来的 1%）→ 最终权重 = W₀ + B×A

LoRA 的效果接近全量微调，但显存消耗直接降低了 90%。更棒的是，LoRA 是“插拔式”的——你可以为不同任务训练不同的 LoRA 适配器，推理时换一个适配器就切换任务，原始模型完全不用动。

**QLoRA** 则是 LoRA 的进一步压缩：把基础模型量化到 4-bit，再用 LoRA 微调。这样一来，单张 24GB 的消费级显卡就能微调 65B 参数的模型——个人开发者也能参与进来了。

路线三：对齐微调（Alignment）

前面两种是让模型“懂知识”，对齐微调则是让模型“听话”——遵循人类的价值观和偏好。

**RLHF（基于人类反馈的强化学习）** 是 ChatGPT 诞生背后的核心技术，流程分三步走：第一步，SFT（监督微调），用人工标注的“指令-回答”对，教模型遵循指令；第二步，训练奖励模型（RM），让人类对模型的多个回答排序，训练出一个“打分器”；第三步，PPO 强化学习，用奖励模型给模型打分，模型不断优化以争取更高分数。

RLHF 的效果确实顶级，但流程也极其复杂，需要同时维护 4 个模型（策略模型、Critic、奖励模型、参考模型），训练不稳定，成本居高不下。

**DPO（直接偏好优化）** 可以看作是 RLHF 的“简化版”：直接跳过奖励模型，用偏好对（chosen vs rejected）数据训练。效果接近 RLHF，实现起来简单得多，已经成为中小团队做对齐的首选方案。

**GRPO（组相对策略优化）** 则是 DeepSeek 提出的创新：对同一个问题采样一组输出，用组内相对排名代替 Critic 模型。少维护一个模型，显存直接省一半。DeepSeek-R1 那令人印象深刻的推理能力，就是 GRPO 训出来的。


三、微调 vs RAG vs Prompt——到底选哪个？

这是被问得最多的问题。先说结论：**大多数场景其实不需要微调**。

简单粗暴地对比一下：

Prompt 工程，成本几乎为零，上手难度最低，适合风格控制和格式约束，改个 Prompt 就能更新知识；RAG，成本中等（需要向量库和检索），上手难度也中等，适合做事实性知识补充，改知识库就能更新；微调，成本最高（训练算力 + 数据标注），上手难度较高，适合深度领域适配和风格内化，但一旦需要更新知识就得重新训练。

一个简单的决策逻辑：

只是想让模型用特定格式输出？→ Prompt 工程 + Structured Output
想让模型知道你的私有数据？→ RAG
想让模型内化某个领域的专业能力？→ 微调
想让模型说话风格像你们公司的人？→ 微调（RAG 做不到风格内化）


还有一个常见的误解：**“微调可以注入新知识”**。理论上可以，但实际效果很差。微调更适合改变模型的行为方式（怎么说），而不是往里塞事实知识（说什么）。注入知识这件事，RAG 靠谱得多。

**2026 年的行业趋势也在印证这一点**——OpenAI 在 2026 年 5 月宣布逐步关闭 Fine-tuning API（2027 年 1 月终止），原因是更强的基座模型 + Prompt + RAG 已经能覆盖绝大多数微调场景。

这可不是说微调要“死了”，而是说：**微调正在从“万能工具”变成“专科手术”**——只在真正需要的时候才用，不再是第一选择。

四、实际微调一次要花多少？

以 2026 年的行情估算（使用云 GPU）：

7B-8B 模型，用 QLoRA，1 张 RTX 4090 跑 2-4 小时，成本约 50-100 元；用 LoRA，1 张 A100 跑 1-2 小时，成本约 30-80 元；全量微调则需要 4 张 A100 跑 4-8 小时，成本约 500-1000 元。

70B 模型，用 QLoRA，2 张 A100 跑 8-16 小时，成本约 2000-4000 元；用 LoRA，需要 4-8 张 A100 跑 4-8 小时，成本约 3000-8000 元。

注意，这些只是训练成本，还不算数据标注和人工调参的投入。数据准备往往是微调中最耗时的环节——**垃圾数据训出来的模型，比不微调还差**。

五、微调的实操建议

1. 先试 Prompt 和 RAG，再考虑微调

这是 2026 年的行业共识。微调是最后的“大招”，不是第一招。反面教材：拿到需求就想着微调，花了三天标注数据、两天训练、一天调试，最后发现 Prompt 里加几句例子效果差不多。正确的做法是：先用 Prompt + Few-shot 试试 → 不够就加 RAG → 还不够才考虑微调。每一步都要量化对比效果，别凭感觉。

2. 数据质量决定一切

微调圈有句名言：“Garbage in, garbage out。” 100 条高质量数据的效果，往往胜过 10000 条随意标注的数据。质量标准包括：输入要覆盖真实场景的多样性（不是只写“正确答案”）；输出要专业且一致（最好找领域专家写，别让实习生糊弄）；格式要严格统一（JSON schema 要提前定义好）。

3. LoRA 是你的默认选择

除非你有充足理由选择全量微调（比如要训一个垂直领域的旗舰模型），否则 LoRA/QLoRA 就是默认选项。成本低、见效快、可插拔切换、不会灾难性遗忘，简直是为大多数人量身定做的方案。

4. 开源模型是微调的主战场

OpenAI 关了 Fine-tuning API，但 **Llama 4、Qwen3.7、DeepSeek V4、Mistral Large 3** 这些开源模型都支持微调，而且你完全自主可控。微调的未来，在开源模型和自托管部署上。

六、微调的局限性

**数据依赖强**：没有高质量数据就别想微调。很多团队卡在这一步——有需求但没数据，或者有数据但标注质量不行。

**难以评估**：微调后的模型到底是变好了还是变差了？不像传统软件有明确的测试用例，LLM 的评估本身就很难。需要建立自动化评测集 + 人工抽检的双轨制。

**版本管理复杂**：模型微调后，后续基座模型升级了怎么办？LoRA 适配器能不能迁移？目前还没有成熟的解决方案，多数团队只能“微调一次，用到底”。

**维护成本持续**：业务规则变了、新知识要加入、用户反馈有新问题……微调不是一次性的，而是持续迭代。每次迭代都要重新训练、重新评估、重新部署。

**隐私和安全**：微调数据可能包含敏感信息（医疗记录、法律文书、企业机密）。用云服务微调有数据泄露风险，自托管又得承担基础设施成本。

七、给普通用户：你什么时候需要关心微调？

**大多数时候不需要。** 但如果你遇到以下情况，微调可能值得考虑：你的 AI 应用在特定领域的准确率始终不够，Prompt 和 RAG 都帮不上忙；你需要模型“内化”某种说话风格或专业能力，而不是每次靠 Prompt 硬塞；你在做垂直行业的产品（法律、医疗、金融），通用模型的知识深度不够。

**想动手试试？** 推荐路径：在 Hugging Face 上找一个开源模型（Llama 4 Scout / Qwen3.7）；用 Unsloth 或 Axolotl 框架（它们封装了 QLoRA 流程，对新手友好）；准备 500-1000 条高质量数据；在云 GPU（AutoDL / RunPod / Lambda）上跑一次 QLoRA 微调；最后对比微调前后的效果——如果有明显提升，再加大投入。

一句话总结

**微调是让通用 AI 变成“你的人”的最深手段——不是从零教，而是在已有知识上“进修”。LoRA 让微调从实验室走向大众，DPO 让对齐不再高不可攀。但微调不是第一选择，而是最后一招——先试 Prompt，再试 RAG，还不够才微调。2026 年的行业趋势也在印证这一点：更强的基座模型 + Prompt + RAG，正在覆盖越来越多的微调场景。**

系列持续更新中：Skills → Memory → Prompt → 上下文窗口 → Agent → RAG → 工具调用 → MCP → 微调