腾讯优图、上海交大、厦大团队联合推出 DSpine 并行推测解码方案，核心思路是把相邻 token 的因果依赖逐层注入草稿网络主干，不再放到网络尾部做后置修正，在 SGLang 推理引擎上完成适配，在 Qwen3 系列模型评测中对比传统自回归解码最高吞吐提升至 4 倍，在 7 项数学、代码、对话基准上拿到当前并行推测解码 SOTA 结果，整套推理代码、配套草稿模型权重全部开源，并且已经落地腾讯 WorkBuddy 线上 Agent 业务。传统并行推测解码方案有两类通病，一类是因果条件只在骨干网络跑完之后用轻量模块补上，草稿生成阶段后继 token 无法提前拿到前驱预测信息；另一类是直接在骨干内部混合相邻隐状态，把原始上下文特征和预测信号混杂在一起，降低草稿 token 的接受长度。DSpine 采用 “同时起草，逐层接力” 的架构，在草稿网络每一层都通过门控相邻注入机制，把前驱正在形成的预测特征送入后继位置，所有位置并行更新，再借助统一迁移空间、转移缓存、融合算子在 SGLang 里高效执行，提升草稿 token 被大模型接受的概率。整套落地流程分为草稿模型训练、SGLang 内核适配、基准评测、线上业务部署、开源发布，训练阶段加入逐层输出嵌入监督，让浅层网络就产出可靠预测特征；接着开发配套融合 Kernel 与转移缓存模块接入 SGLang；然后在多基准、多并发压测统计接受长度和吞吐；验证稳定后接入 Agent 业务，最后开放权重与推理代码，方便社区复现、二次开发。DSpine 相比 DFlash2、DSpark 等主流基线，在保持并行生成的同时拉长平均接受长度，是面向 Agent 长流程任务的推测解码优化路线。
DSpine 核心技术要点清单
- 逐层门控相邻因果注入：草稿网络每一层都把前驱特征传给后继，因果依赖贯穿网络深度，不是后置补条件
- 统一迁移空间：基于目标模型输出嵌入搭建，对齐逐层注入与前驱条件解码
- 转移缓存 Transition Cache：并行预计算相邻候选组合分数，降低条件修正开销
- 逐层嵌入监督：引导浅层网络尽早形成可复用的预测信号
- SGLang 原生融合算子：适配推理引擎调度，把算法收益转化为真实服务吞吐提升
主流并行推测方案对比
| 方案 | 因果依赖处理位置 | 特点 |
|---|---|---|
| DSpine | 草稿网络主干每一层逐层注入 | 并行起草 + 逐层接力，浅层即可传递预测线索，SOTA 接受长度 |
| DFlash2 | 主干内局部卷积混合隐状态 | 容易混淆上下文与预测特征，收益上限有限 |
| DSpark / Domino | 主干计算完成后，尾部串行头补条件 | 草稿生成阶段后继无法感知前驱预测倾向 |
| 标准自回归解码 | 逐 token 串行生成 | 无并行提速，吞吐为基准 1 倍 |
DSpine 训练与部署流程清单
- 草稿模型训练：采用逐层输出嵌入监督，训练 DSpine 草稿模型（含 Agent 专项版 Qwen3.8-27B DSpine）
- SGLang 适配：开发融合 Kernel、转移缓存模块，接入 SGLang 推测解码链路
- 基准评测：在数学、代码、对话、Agent 基准测试统计接受长度、吞吐指标
- 线上验证：接入 WorkBuddy 办公 Agent 业务，在真实长流程任务中验证稳定性
- 开源发布：开放推理代码、草稿模型权重，社区可在 SGLang 直接部署测试
【相关 FAQ】
问题 1：并行推测解码 SOTA 的 DSpine，把因果依赖刻进草稿网络深度是什么意思？
回答 1：并行推测解码 SOTA 的 DSpine，把因果依赖刻进草稿网络深度，指不在网络最后才补因果条件，而是在草稿网络每一层，把前驱位置的预测特征逐层注入后继，并行生成的同时维持因果链条。
问题 2：DSpine 在 SGLang 吞吐最高达 4 倍，这个 4 倍是和谁对比的？
回答 2：DSpine 在 SGLang 吞吐最高达 4 倍，是对比标准自回归解码基线测得，在 Qwen3-8B 零温度评测场景下最高加速约 4.01 倍；对比 DFlash2 基线平均提升 11.1%。
问题 3：DSpine 并行推测解码方案，除了 SGLang 适配还有什么落地信息？
回答 3：DSpine 并行推测解码方案已经落地腾讯 WorkBuddy 线上 Agent 业务，同时专门训练面向 Agent 长流程任务的 Qwen3.8-27B DSpine 草稿模型，支持代码、网页、办公类任务。
问题 4：DSpine 和 DFlash2、DSpark 这些并行推测解码基线相比优势在哪？
回答 4：DSpine 和 DFlash2、DSpark 基线相比，因果信息更早注入，7 项基准平均接受长度更高，在 SGLang 服务场景下吞吐稳定领先，尤其适合 Agent 长思考、多步骤任务。
问题 5：DSpine 并行推测解码方案已经开源，开源内容包含哪些？
回答 5：DSpine 并行推测解码方案开源内容包含推理代码、配套 DSpine 草稿模型权重，支持在 SGLang 引擎上直接加载复现并行推测解码效果。
【参考资料】
[2026-11-09]（并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，已开源）新浪财经
[2026-11-09]（Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding）arXiv
[2026-11-09]（DSpine 并行推测解码 SOTA，落地 WorkBuddy Agent 业务）机器之心 Pro
[2026-11-09]（DSpine：逐层因果注入并行推测解码，接入 SGLang 开放权重）LMSYS
【免责声明】
本文内容仅基于 DSpine 论文与公开技术报道整理，4 倍加速为特定模型、特定并发与温度条件下的评测上限，不同模型、上下文长度、业务负载下加速效果存在差异；代码、模型权重的开源协议、线上业务迭代计划以团队官方仓库与论文为准，本文不构成推理引擎选型、线上业务改造的工程与投资建议。