近期业内观察到一个有趣现象,以DeepSeek-R1为代表的开源模型在回答问题时常常表现出"过度发散"的特性。特别是在处理简单问题时,模型往往会输出过长内容。这种特性虽然在某种程度上提升了回答质量,但其单位token的成本优势可能被这种"多虑"的特质所削弱。
NousResearch团队的最新研究聚焦于一个重要问题:开源模型在执行相同任务时,是否会比闭源模型消耗更多token?研究团队不仅统计了最终的输出token,还考量了整个推理过程中的内部计算token,这些都与实际API计费直接相关。
研究揭示的关键发现
1. 对于可以直接回答的知识性问题,开源模型的token使用效率明显偏低。具体而言,DeepSeek-R1-0528完成任务的平均token消耗量达到了基准水平的4倍。
2. 在处理需要推理能力的数学题和逻辑谜题时,DeepSeek-R1-0528的表现有所改善,token消耗倍数降至2倍左右。

值得注意的是,AI招聘平台Mercor的独立研究也得出了类似结论。在其最新发布的APEX-v1.0生产力指数评估中,Qwen-3-235B和DeepSeek-R1的输出长度都显著高于其他前沿模型。研究者认为,这种"慢思考"模式虽然增加了token成本,但确实能提升模型的整体表现。

开源模型的经济性分析
要从经济学角度评估开源模型的效益,可以简化表示为:任务收益=产出价值-单位token成本×token消耗量。其中产出价值取决于问题本身的商业价值。
在技术层面,中美采取了不同的优化路径:
- 美国企业更关注硬件优化,如英伟达自主研发HBM基础裸片
- 中国开源社区则专注于算法创新,阿里Qwen3-Next架构仅需激活3B参数就能媲美235B模型的性能
微软最新研究指出,实际部署中的能耗往往比理论值低8-20倍,这得益于硬件改进(1.5-2倍)、模型优化(3-4倍)和负载管理(2-3倍)的三重提升。
token消耗过多带来的挑战
1. 增加碳排放:研究表明DeepSeek-R1的碳足迹明显高于同类产品
2. 影响响应速度:过长的推理时间可能降低用户体验
3. 挤占上下文窗口:限制处理复杂任务的能力

研究最终结论表明,综合成本和性能因素,DeepSeek等开源模型仍保持一定优势。但在高端API服务场景下,这一优势已经变得不那么明显。

未来发展方向将是如何用更少的token创造更高的商业价值,这需要技术创新与经济效益的双重平衡。
