游乐游手机版
首页/AI热点日报/热点详情

梁文锋论文称DeepSeek首轮融资后生成速度提升85%

类型:热点整理2026-06-28
DeepSeek顺利完成500亿元融资后,迅速推进开源新局面。今天,它正式公布了一套工程化解决方案,核心目标是让现有大模型运行得更快、更高效。 此次开源内容包含两款模型:DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark,同时开放了推测解码框架DSpark

DeepSeek顺利完成500亿元融资后,迅速推进开源新局面。今天,它正式公布了一套工程化解决方案,核心目标是让现有大模型运行得更快、更高效。

此次开源内容包含两款模型:DeepSeek-V4-Pro-DSparkDeepSeek-V4-Flash-DSpark,同时开放了推测解码框架DSpark,以及对应的训练框架DeepSpec

▲DeepSeek-V4-Pro-DSpark开源上新页面截图

与这套框架同步发布的,还有一篇由梁文锋署名、联合北京大学完成的论文《DSpark:基于半自回归生成的置信度调度推测解码》。论文指出,当DSpark被部署到DeepSeek-V4的线上生产系统、直接处理真实用户流量时,它显著减少了因无效校验所导致的算力浪费。相比成熟的基线方案MTP-1,在保持整体吞吐率不变的前提下,DSpark将单用户的生成速度提升了60%到85%。更关键的是,在严格的交互时延约束下,它避免了吞吐率的大幅下降,实现了此前无法企及的性能档位,从而推高了整套服务系统的帕累托最优边界。

▲DSpark论文截图

从Hugging Face上模型卡的信息来看,DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark并非全新的模型版本迭代,而是在原有版本基础之上集成了一个推测解码模块,核心目的就是加速推理过程、降低运行成本。

推测解码这个概念,说起来并不复杂。简单来说,它是一种无损的大模型推理加速技术,核心流程只有两步:先打草稿,再进行验证。通过将草稿生成与目标模型的校验分离开来,从而提升整体的推理效率。目前主流的并行草稿器,虽然能够一次前向运算生成超长token序列,但token之间缺乏依赖关系,导致草稿后续内容的通过率会快速下降。更棘手的是,如果对整段长候选序列不加区分地进行校验,宝贵的批次算力很容易浪费在那些被驳回的token上,进而使高并发场景下的整体吞吐率大打折扣。

DeepSeek提出的DSpark框架,将高吞吐的并行生成与自适应、感知负载的校验机制紧密结合在一起。为了保证草稿质量,它采用了半自回归架构:把并行主干网络和轻量串行模块结合起来,在模块内部建立起token之间的依赖关系,从而有效缓解后续内容通过率不断衰减的问题。

▲DSpark架构与解码流程

为了进一步优化系统的运行效率,DSpark还引入了一个置信度调度校验机制。该机制会根据预估的前缀通过概率以及引擎的吞吐特性,为每一条请求动态调整校验长度。在多项离线基准测试中,无论是对比当前最优的自回归草稿器还是并行草稿器,DSpark都能显著提升有效通过的序列长度。

下面这张截图展示的是DeepSeek为DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark提供的一个最小推理示例。

▲DeepSeek提供的最小推理示例

总体而言,用户部署了DSpark版本的DeepSeek-V4模型之后,在生成速度、首token延迟以及并发能力等维度上,都会获得实实在在的性能提升。

再来看DeepSpec。这是一个专门用于训练和评估推测式解码草稿模型的完整代码库,也就是一套工具链。它包含了数据准备工具、草稿模型的具体实现、训练代码和评估脚本,并且采用MIT许可,几乎做到了完全开放。

▲DeepSpec开源上新页面截图

DeepSpec的工作流程十分清晰:它按顺序执行三个阶段,每个阶段的输出会作为下一个阶段的输入。

1、数据准备:下载提示词,重新生成目标答案,并构建目标缓存。

2、训练:针对缓存好的目标输出来训练一个草稿模型。

3、评估:在基准任务上衡量推测解码的接受程度和效果。

目前,DeepSpec支持的算法包括三个草稿模型:DSpark、DFlash和Eagle3。研发团队还在最后环节向SpecForge、DFlash以及Qwen3和Gemma发文致谢。

▲DeepSeek致谢情况

可以看到,DeepSeek这次不仅仅发布了相关模型,还直接放出了完整的训练框架,供开发者和企业利用自己的Qwen3、Gemma等模型来训练草稿模型。这一系列动作背后的意图十分明确:不仅要打破技术壁垒,还要将推理优化的落地门槛大幅降低。

结语:推理重要度提升,工程化能力成为关键

DeepSeek此次发布虽然低调,且并非模型本身的迭代,但含金量十足。它公布了一套能让现有模型运行更快的工程方案,有望带来更快、更低成本的推理体验,同时大幅降低推测解码技术在实际场景中的部署门槛。

大模型竞赛已经步入训练与推理并重的系统博弈阶段。这次DeepSeek在完成融资后,率先在推理优化赛道落子布局。战略意图非常清晰:不仅加速模型迭代与产品化进程,更要向下抢占算力效率竞争的制高点。

来源:https://36kr.com/p/3871187114448133

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。