游乐游手机版
首页/科技数码/文章详情

DeepSeek创始人梁文锋《自然》杂志回应:R1模型训练成本实为29.4万美元

时间:2025-12-13 20:53
DeepSeek 荣登 Nature 封面,实至名归!今年 1 月,梁文锋带队 R1 新作,开创了 AI 推理新范式 —— 纯粹 RL 就能激发 LLM 无限推理能力。Nature 还特发一篇评论文

DeepSeek 登上 Nature 封面实至名归!今年年初,由梁文锋带领的研究团队发布的 DeepSeek-R1 开创性地应用纯强化学习方法,成功突破了大语言模型的推理能力边界。这项革新性研究不仅获得 Nature 期刊的高度认可,还特别配发了评论文章予以赞赏。

最新消息显示,DeepSeek-R1 的最新研究成果登上了 Nature 杂志封面!

DeepSeek

今年 1 月发表的论文《DeepSeek-R1: 通过强化学习激发大语言模型推理能力》,如今已成为全球顶级学术期刊的封面研究。

DeepSeek

这篇由通讯作者梁文锋领导的论文,通过创新的强化学习框架为大模型推理能力开发开辟了全新路径。

论文地址:https://www.nature.com/articles/s41586-025-09422-z

在封面推荐语中,Nature 毫不吝啬地盛赞了这项研究的创新价值。

DeepSeek

值得注意的是,研究团队首次公开了训练成本细节——仅29.4万美元,这个数字令人惊叹。

DeepSeek

即便算上约600万美元的基础模型成本,仍显著低于行业巨头OpenAI和谷歌的训练投入。在开源后,R1迅速成为Hugging Face平台最受欢迎的模型,下载量突破1090万次。更重要的是,它成为首个经过完整同行评审的主流大模型。

从预印本论文到登上顶级期刊封面,DeepSeek团队再次用实力证明了AI推理技术的发展潜力。

DeepSeek

创新的训练方法论

研究团队抛弃了传统依赖人类示范数据的思路,采用纯强化学习方案。他们选择跳过监督微调(SFT)阶段,直接基于DeepSeek-V3基础模型,构建了一个极简的强化学习框架。

DeepSeek

该框架主要包含两个核心要素: 1. 任务格式规范:要求回答必须包含封装在标签内的思考过程,以及最终答案; 2. 奖励机制:仅根据答案正确与否给予反馈。

在这个没有预设解题步骤的训练环境中,DeepSeek-R1展现出了惊人的自主进化能力。在AIME 2024测试中,其准确率从初始的15.6%大幅跃升至77.9%,配合自洽解码技术更达到86.7%。

DeepSeek

技术实现细节

研究团队创造性地采用GRPO(组相对策略优化)算法替代传统的PPO方法。这种算法允许多个答案组内竞争,显著降低了计算资源消耗。

DeepSeek

在奖励机制设计上,团队采用双轨制: 1. 严格基于规则的评测系统用于数学、编程等结构化任务; 2. 偏好学习模型用于评估通用任务的回答质量。

DeepSeek

训练过程分阶段进行:最初专注于推理能力培养,后续引入多样化任务数据,最后通过偏好对齐优化模型表现。特别调整包括将上下文窗口从32k扩展至65k token,显著提升了模型性能。

DeepSeek

学界评价与影响

Nature审稿人Lewis Tunstall表示:"开创性地展示了仅靠强化学习就能获得卓越性能。R1带来的方法论革新正在引发一场革命。"

DeepSeek

俄亥俄州立大学研究员Huan Sun评价:"DeepSeek提供的解释在现有文献中具有最高的可信度。"

DeepSeek

参考资料: https://www.nature.com/articles/s41586-025-09422 https://www.nature.com/articles/d41586-025-03015-6

来源:https://www.ithome.com/0/883/929.htm
上一篇Redmi 15R 5G手机发布:天玑6300+120Hz屏仅1099元起,续航6000mAh 下一篇Steam将从2026年起停止支持32位Windows系统
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
年国家能源局充换电服务业用电量增速48.8%
科技数码 · 2026-06-29

年国家能源局充换电服务业用电量增速48.8%

2025年全社会用电量达103682亿千瓦时,同比增长5 0%。充换电服务业用电增速高达48 8%,信息传输与软件服务业增速17 0%。第三产业和居民用电对增长贡献率合计占一半。中国成为全球首个年度用电量超10 4万亿千瓦时的国家。

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元
科技数码 · 2026-06-29

追风者 GLACIER ONE 360 S25 液冷散热器新品上市 联体风扇售价429元

追风者冰川360S25液冷散热器售价429元,三联一体风扇便捷安装,冷头小体积纯铜底座噪音18dB,风扇转速300-2000RPM、风量75CFM、静压2 96mmAq,五年质保漏液包赔。

三星Galaxy Watch8用户反馈谷歌后台组件异常
科技数码 · 2026-06-29

三星Galaxy Watch8用户反馈谷歌后台组件异常

三星GalaxyWatch8、Watch5Pro、Watch6及Watch7用户反映,GooglePlayServices后台耗电异常,电量占比最高达99 97%,远超正常水平,严重影响续航。目前故障原因不明,谷歌尚未发布官方声明。

罗永浩批苹果iOS 27创新不足 盼新CEO改进
科技数码 · 2026-06-29

罗永浩批苹果iOS 27创新不足 盼新CEO改进

罗永浩批评苹果iOS27创新不足,称仅有双iPhone同号、音量分离等数十项细节改进,认为库克时代缺乏突破性创新,股市虽好但消费者只能被迫接受挤牙膏式升级。

年国产车出口710万辆,两家车企销量破百万
科技数码 · 2026-06-29

年国产车出口710万辆,两家车企销量破百万

2025年国产汽车出口总量达710万辆,同比增长21%。奇瑞以134万辆居首,比亚迪105万辆次之,上汽乘用车出口占比60%最高,长城出口51万辆。吉利、长安等主流品牌同步增长,小鹏、零跑等新兴品牌海外拓展加速。