11月27日,DeepSeek团队在Hugging Face平台重磅发布参数量高达236B的数学大模型DeepSeek-Math-V2。该模型采用MoE混合专家架构,虽然总参数量庞大,但激活参数仅21B,上下文长度更是突破128K token。更令人惊喜的是,团队当天同步开放了Apache 2.0协议授权,商业使用零限制,强大的开源诚意瞬间引爆服务器带宽。
数学能力成绩单(零样本思维链测试):
- MATH基准测试中取得75.7%的优异成绩,与GPT-4o(76.6%)几乎并驾齐驱;
- AIME 2024挑战中成功解答4/30的题目,表现优于Gemini 1.5 Pro和Claude-3-Opus;
- Math Odyssey测试中获得53.7%的分数,同样跻身第一梯队。
模型的核心突破在于创新的“自验证”双引擎机制:Generator负责生成解题初稿,Verifier则逐步检查推理过程,发现错误立即打回重写,最多支持16轮迭代优化。最终通过多数投票结合元验证器有效抑制幻觉现象。训练语料规模达到1000亿token,涵盖学术论文、竞赛试题与合成数据,并引入GRPO强化学习技术精准对齐人类解题偏好。
受益于代码与数学混合训练策略,DeepSeek-Math-V2在编程领域同样展现出强大实力:Humaneval得分90.2%、MBPP达到76.2%,更在SWEBench测试中成为首个突破10%准确率大关的开源模型,直接对标GPT-4-Turbo和Claude 3 Opus等顶级闭源模型。
目前模型已在Hugging Face平台上线,仅需80GB显存即可实现多卡推理。技术社区正在火热复现相关成果。若想为AI装备一颗专业的“数学大脑”,现在只需一行`transformers`代码即可加载——这款国产开源模型,再次将闭源巨头的技术壁垒变成了显微镜下的裂缝。
