不只DeepSeek，阶跃等开源JetSpec：大模型解码提速近10倍¶
Ch01.1532 不只DeepSeek，阶跃等开源JetSpec：大模型解码提速近10倍¶
📊 Level ⭐⭐⭐ | 7.9KB |
entities/不只deepseek阶跃等开源jetspec大模型解码提速近10倍.md
不只DeepSeek，阶跃等开源JetSpec：大模型解码提速近10倍¶
2026 年 6 月末，大模型推理效率领域迎来两篇重要工作：DeepSeek 的 DSpark（关注高并发场景下的验证效率）和阶跃星辰的 JetSpec（从 Draft 生成本身入手，用因果并行树提高一次验证能接受的 Token 数）。JetSpec 在 Qwen3-8B 上最高实现 9.64× 端到端解码加速，在 MATH-500 上一次验证平均可接受 10.76 个 token。
摘要¶
投机解码（Speculative Decoding）的核心思路是用轻量级草稿模型提前生成候选 token，再由目标模型一次性并行验证。当模型开始被 Agent 高频调用，推理效率从"锦上添花"变为"基础变量"。JetSpec 提出因果并行草稿头（Causal Parallel Draft Head），在保持并行草稿低成本结构的同时，通过路径条件化预测提升候选 token 的接受率。与此同时，DeepSeek 的 DSpark 通过置信度调度验证，在高并发场景下优化吞吐量-延迟边界。两者从互补方向攻克投机解码的核心瓶颈——因果一致性与并行效率的两难困境。[^:56-61]
核心要点¶
- JetSpec 的端到端加速：在 Qwen3-8B 上，相比标准自回归解码，MATH-500 最高 9.64×、HumanEval 7.12×、LiveCodeBench 7.67×、MT-Bench 4.58×
- 因果并行草稿头：在并行草稿结构中引入路径条件化——更深层的节点依赖同一分支上更早生成的 token，使因果一致性接近自回归方法，同时保持并行成本
- 接受率大幅提升：在 AIME25 上，深度 1 的接受率约 99%，深度 8 仍保持约 50%；逐 token 有效接受率约 93%，显著高于 DFlash
- DSpark 的互补路径：面向高并发场景，通过轻量级 Markov 修正头和置信度调度，在严格预算下优化吞吐量
- 技术大佬阵容：DSpark 作者栏有梁文锋，JetSpec 作者栏有阶跃 CEO 姜大昕、CTO 朱亦博
深度分析¶
投机解码的因果-效率两难困境¶
JetSpec 和 DSpark 共同指向投机解码的核心瓶颈：当草稿生成已经足够便宜之后，如何保留足够的因果一致性，让并行生成的 token 能够通过目标模型验证？
现有方法可分为两类：自回归草稿（如 EAGLE 系列）沿具体路径条件化预测，因果一致性好，但树越深串行步骤越多；块并行草稿（如 DFlash）使用轻量级块并行草稿模型，一次前向传播预测多个位置，草稿成本极低，但缺乏分支级因果约束——"局部合理、整体不一致"，接受率迅速被稀释。
JetSpec 的因果并行草稿头正是在这个困境中找到的折中点：保留并行壳的低成本结构，但在草稿生成过程中沿路径注入因果条件依赖。这使得它能在草稿预算为 128 时将接受长度从 DFlash 的 7.34 提升到 9.82。
吞吐量导向 vs 延迟导向的双路径¶
两篇工作代表了面对同一问题的不同系统级选择。
在高并发、吞吐量导向场景下，DSpark 保持并行草稿主干的低成本，加入轻量级串行头和置信度估计，在不增加每个请求验证成本的前提下提高整体吞吐量。在低并发、延迟导向场景下，系统拥有更充足的 FLOPs 预算，JetSpec 将计算预算转化为单次验证中的更高接受率，从而降低单用户延迟。
一个可预见的下一步是构建动态服务框架，同时推动吞吐量-延迟帕累托边界的两端。这与 DeepSeek DSpark 投机解码 中讨论的预算感知推理策略方向一致。
Agent 场景驱动推理效率创新¶
这篇工作有一个重要的上下文背景：Agent 场景下的模型调用特征与传统对话完全不同。一个 Agent 完成任务需要规划、搜索、写代码、调用工具、检查结果、修复错误——一次任务背后可能是数十次甚至上百次模型调用。此时单次推理延迟会被连续放大，直接决定产品体验和商业成本。
JetSpec 和 DSpark 几乎同期出现且引发广泛关注，说明大模型行业正在进入一个新阶段：模型能力仍然重要，推理效率正在成为 Agent 能否规模化落地的基础变量。 这与 投机解码概念体系 中强调的效率-延迟权衡分析一致。
阶跃 Flash 模型叙事中的 JetSpec¶
JetSpec 不是阶跃星辰的一个孤立论文——它是 Flash 模型叙事的一部分。从 Step 3.5 Flash 到 Step 3.7 Flash，阶跃一直强调面向 Agent 场景的高效智能：更快的输出速度、更优的调用成本、更好的工具调用能力。JetSpec 从推理算法层面补上了效率拼图。
此外，阶跃与 UCSD 此前在 PD 分离（Prefill-Decode Disaggregation）领域合作发表了 DistServe，该技术已被 NVIDIA TensorRT-LLM、SGLang、vLLM 等主流推理框架采用。这说明阶跃在大模型效率领域的布局是持续且系统性的。
实践启示¶
-
Agent 场景改变了推理效率的优先级：如果模型调用次数从 1 次变为 100 次，单次推理延迟的优化就有了 100 倍杠杆。在构建 Agent 应用时，推理效率应作为与模型能力同等重要的选型指标。
-
因果一致性与并行效率的权衡是投机解码的核心设计问题：无需在两者之间做极端选择——JetSpec 展示了用因果并行头在中间地带找到最优解的可能。设计推理加速方案时应优先考虑接受率（而非草稿速度）作为优化目标。
-
吞吐量与延迟的双路径策略：高并发场景用置信度调度（DSpark），低延迟场景用高接受率草稿（JetSpec）。生产系统中的推理架构应同时支持两种模式，根据负载动态切换。
-
开源加速了推理效率技术的标准化：JetSpec 和 DSpark 均为开源，可在此基础上集成到生产系统。评估时建议同时测试两者的互补优势。
-
PD 分离+投机解码的组合是当前推理优化的系统级方向：DistServe（PD 分离）优化预填充-解码资源分配，JetSpec/DSpark 优化解码阶段的 token 生成效率。两者叠加可以获得系统性收益。
相关实体¶
DeepSeek DSpark 投机解码DeepSeek DSpark V4- 投机解码概念体系
Eagle-3 投机解码优化LMsys DFlash 投机解码
→ 原文存档