本次查询:SFT
中文解释:监督微调
常见场景:大模型训练与优化
一句话解释
SFT(Supervised Fine-Tuning,监督微调)是在大规模预训练之后,使用精心标注的指令-回答数据对模型进行进一步训练的过程,目的是教会模型如何更好地理解和执行人类的指令。
为什么会被关注
随着ChatGPT等对话AI的普及,人们发现仅靠海量数据预训练的模型虽然知识丰富,但难以精准、安全地响应用户需求。SFT作为连接预训练‘通才’模型与实用‘专才’助手的关键桥梁,其数据质量和训练方法直接决定了AI助手的可用性和安全性,因此成为大模型落地应用的核心技术焦点。
核心逻辑
SFT的核心逻辑是‘示范教学’。开发者准备一个由(指令,期望回答)构成的数据集,例如‘写一封感谢信’对应一篇范文。模型在预训练获得的基础能力上,通过在这些高质量配对数据上进行有监督学习,调整自身参数,从而学会将用户的模糊指令映射为具体、合规、高质量的文本输出。这个过程本质上是将人类的偏好和任务格式‘注入’模型。
常见场景
1. 构建对话助手:如客服机器人、情感陪伴AI,通过SFT学习友好、专业的对话风格。
2. 生成特定格式文本:如代码生成、邮件撰写、报告总结,教会模型遵循严格的格式和内容要求。
3. 内容安全与合规:通过SFT数据引导模型规避有害、偏见或虚假信息的生成,是模型安全对齐的基础步骤。
4. 领域知识深化:在法律、医疗等专业领域,用专业问答数据微调,提升模型在垂直场景下的准确性和可靠性。
容易混淆的点
SFT常与‘预训练’和‘提示工程’混淆。预训练是模型从无标注海量数据中学习通用知识和语言模式;SFT是在此基础上用高质量标注数据做‘精修’。提示工程则是在模型训练完成后,通过设计输入文本来激发模型已有能力,不改变模型参数。此外,SFT与指令微调(IFT)概念高度重叠,常被视为同义词,但IFT更强调使用多样化的指令数据。SFT也常作为RLHF(人类反馈强化学习)的前置阶段,为其提供初始的、可控的模型。
