OpenAI 连播第二天,直接甩出了一枚重磅冲击波——"强化微调"(Reinforcement Fine-Tuning)功能。简单来说,这项技术让AI训练的门槛骤降:以往需要海量数据才能调教出的领域专家,如今只要几十到几千条高质量数据就能搞定。

效果提升有多夸张?来看看实测数据:
- 微调后的 o1-mini 版本,性能直接飙升了 80%
- 在特定任务中甚至超越了 o1 正式版
- 训练所需的数据量从百万级断崖式降到几十条
OpenAI CEO 奥特曼称其为"2024 年最大惊喜"。但现场未见奥特曼出席,由三位 OpenAI 研究员与伯克利实验室计算生物学家 Justin Reese 进行了实际应用演示。以遗传病诊断为例:
- 使用约 1100 个病例数据进行训练
- 让 AI 预测致病基因并提供医学解释
- 通过多项评估指标验证模型表现
那么这项技术到底是怎么工作的?本质上,它把监督微调(SFT)和强化学习(RL)的优势做了个巧妙融合:
- 先通过标准数据建立基础能力
- 再通过强化学习自主探索最优解
- 最终实现在特定领域的深度专业化
说起来,这个技术思路最早其实来自字节跳动 2024 年 ACL 会议上的一篇论文(REFT: Reasoning with REinforced Fine-Tuning)。而 OpenAI 在此基础上,完成了令人瞩目的工程化落地。
目前 OpenAI 已经在生物化学、法律、医疗等领域完成了内部测试。按照计划,2025 年春季就会面向企业、高校和研究机构开放申请测试资格。
强化微调的到来,无疑会加速 AI 在垂直行业的渗透。门槛低了,数据需求少了,每个行业都能更轻松地训练出自己的专属模型——这才是真正的"降维打击"。
另外,在社交媒体上,当被问及大家关心的视频生成模型 Sora 是否发布时,奥特曼给出的模糊确认,好戏还在后面。
