数据STUDIO

昨天,DeepSeek V4更新DSpark,推理速度提升80%

Image

全文速览

  • DSpark的60-85%加速不是重点——MIT开源的DeepSpec全栈工具链才是
  • 投机解码从各厂闭源自研变成标准化公共基础设施,竞争逻辑被改写
    • 技术报告:《DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation》

    • 技术报告链接:https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf

01比快 80% 更重要的信号是什么

DeepSeek 这次更新的真正信号不是"推理快 80%",是投机解码这个技术从各家闭源自研的独门秘方,变成了 MIT 开源、可复现、可扩展的标准化工具链。也就是说,模型加速赛道的竞争逻辑被改写了——不是比谁的 trick 更聪明,是比谁能把基础设施标准化。

02发生了什么:DSpark 上线 + DeepSpec 开源

6 月 27 日,DeepSeek 上线了 DSpark——一套部署在 V4 Flash 和 Pro 线上的投机解码加速方案,同时开源了承载它的全栈框架 DeepSpec。论文梁文锋署名,联合北京大学。

Image

几个关键数字:

  • 单用户生成速度提升 60%-85%(Flash)、57%-78%(Pro),对比的是上一代 MTP-1 方案
  • 在 Qwen3 系列(4B / 8B / 14B)上做跨模型验证,平均接受长度比 Eagle3 高 26%-31%,比 DFlash 高 16%-18%
  • DeepSpec 以 MIT 许可开源,内置 DSpark / DFlash / Eagle3 三种草稿模型,支持 Qwen3 和 Gemma 目标模型系列

这不是一个实验室 demo。DSpark 已经跑在 DeepSeek 的真实线上流量里了。

背景是:这是 DeepSeek 完成 500 亿融资后,第一次放出开源新成果。

03先说清:投机解码到底是什么?

投机解码的核心思路一句话就能讲清:先打草稿,再校对。

Image

传统的大模型推理是逐 token 生成的——写一个字,看一眼上文,再写下一个字。串行。慢。

投机解码换了个做法:用一个轻量级的"草稿模型"快速生成一段候选 token,然后让目标模型一次性批量验证——正确的保留,错误的丢弃,从第一个被拒绝的位置重新生成。把串行变成了并行批量校验。

这个技术本身不新鲜。2023 年就被提出了。OpenAI、Google、Anthropic 内部都在用。但此前各家都是闭源自研——每个厂商自己造轮子,生态零外部性,你的加速跟我没关系。

Image

DSpark 在三层上做了叠加创新:

  1. 半自回归生成——并行主干一次生成多个候选 token,再加一个轻量级串行模块建模 token 之间的依赖关系。解决的是"并行草稿在后续位置接受率暴跌"的瓶颈。
  2. 置信度调度验证——给每个候选 token 打分,低存活率的直接不送验证。高并发下只把算力投给回报最高的 token。像一个急诊分诊系统。
  3. 硬件感知异步调度——利用前两步的历史预测决定当前截断长度,隐藏调度延迟,避免 GPU 流水线停顿。

三层叠加的结果就是:输出分布和原始模型完全无损(不会因为加速而变笨),但端到端延迟大幅降低。

04我的判断:DeepSpec 比 DSpark 重要十倍

性能数字不是重点。DeepSpec 的开源才是。

Image

你要把这次更新放到一个更长的时间线里看:

  • 2023 年:投机解码理论提出——学术层面被验证可行
  • 2024 年:Medusa、Eagle、DFlash 等并行草稿方案出现——工程层面开始探索
  • 2025-2026 年初:各家大模型厂商各自实现内部推测解码,全部闭源——碎片化、无外部性
  • 2026 年 6 月 27 日:DeepSeek 以 MIT 许可开源完整工具链——标准化转折点

DeepSpec 的完整程度值得关注:它覆盖了数据准备(含 38TB target cache 生成)、训练(每 GPU 一个 worker)、评估(9 个基准:GSM8K、MATH500、AIME25、HumanEval、MBPP、LiveCodeBench、MT-Bench、Alpaca、Arena-Hard-v2)三阶段。任何团队都可以用这套工具链为自己的 Qwen3 或 Gemma 模型训练定制草稿模型做推测解码加速。

在涵盖数学推理、代码生成和日常对话等多个领域的测试中,DSpark 大幅超越了目前最先进的自回归模型(Eagle3)和并行草稿模型(DFlash)。例如,在 Qwen3 系列(4B、8B、14B)目标模型上,其平均接受长度比 Eagle3 提升了 26.7% 到 30.9%,比 DFlash 提升了 16.3% 到 18.4%。

Image

相比于前一代部署的单 Token 生产基准(MTP-1),在维持相同总体吞吐量的情况下,DSpark 将用户的生成速度分别提升了 60%-85%(Flash 模型)和 57%-78%(Pro 模型)。

Image

这不只是"又一个模型推理加速了"。这是把推测解码从各厂商内部碎片化的工程实践,整合成了可复现、可扩展的公共基础设施。

类比一下:之前各家在比谁的 CPU 跑分更高(闭源比参数)。DeepSeek 这次做的是发布了一个开源编译器优化框架,让所有 CPU 都能跑更快。

这不是'DeepSeek 又厉害了'的追星叙事——这是赛道规则从工程军备竞赛变成了开源基础设施覆盖竞赛。 

竞争逻辑被改写了。

当然,也有限制。训练需要 8 卡 GPU + 约 38 TB 存储做 target cache——个人开发者直接调 API 享受生成加速即可,自训练的门槛不低。覆盖的目标模型目前也只有 Qwen3 和 Gemma 系列。

但这些不影响核心判断:DeepSeek 在 500 亿融资后,第一个动作选择了开源加速基础设施而非发布更强模型——这个信号本身比任何 benchmark 数字都值得读。

05下次看到「推理又快 N%」,拿这三个问题过滤一下

  • DeepSeek 前一代方案 MTP-1 是逐 token 预测的,DSpark 的 60%-85% 加速对比的就是这个基线。换个角度看:DeepSeek 自己的推理基础设施在一年内从"串行精写"进化到了"并行草稿 + 置信度截断 + 硬件感知调度"——这条工程优化曲线本身值得跟踪。
  • DeepSpec GitHub(https://github.com/deepseek-ai/DeepSpec)——瞄一眼 README 的三阶段流程图,尤其 target cache 38TB 这个数字,会让你对"标准化 ≠ 零门槛"有更直观的感觉。
  • Eagle3 和 DFlash 是当前推测解码赛道的两个主要对比基线——DSpark 在跨模型泛化实验上全面超越它们,说明半自回归 + 置信度调度确实解决了并行草稿的接受率衰减问题。但论文里的对比只在 Qwen3 和 Gemma 上做了,更多模型系列的支持是未来工作。
  • 2026-06-17 我们写过 Agent Loop 的解耦——里面提到 DeepSeek V4 的 Reasonix 通过 append-only 设计实现 99.82% KV-Cache 命中率。DSpark 是 DeepSeek 在推理加速方向的第二块拼图:Reasonix 管缓存效率,DSpark 管生成速度。两块拼起来,才是 DeepSeek 推理优化的完整图景。

总结成三个问题:

  1. 它开源了工具链,还是只发了个数字? 开源标准化 > 闭源 benchmark
  2. 它跑在真实线上流量,还是只测了评测集? production > benchmark
  3. 它降低了别人的准入门槛,还是只证明了自己聪明? 外部性 > 自证

DSpark 三条全中。这才是值得你花 5 分钟了解的原因。

Image