腾讯团队推出 DSpine 并行推测解码方案，把 token 之间的因果依赖注入草稿网络每一层深度，解决传统并行推测草稿 token 之间互相独立、前后逻辑断裂、接受长度偏低的痛点，在 SGLang 推理引擎上完成部署验证，对比标准自回归解码最高可达 4.01 倍吞吐，相关论文、推理代码、草稿模型权重全部开源，已经落地到腾讯 WorkBuddy 办公 Agent 线上业务。过往 DFlash、DSpark 这类并行推测解码，草稿网络一次性并行输出多个候选 token，但因果约束大多放在主干网络之后的轻量头，前面位置的预测信息很难传递给后面位置，很容易出现前后 token 矛盾、被目标模型大量驳回，有效接受长度上不去。DSpine 采用逐层门控相邻注入机制，在草稿模型每一层都把前序 token 特征注入后继位置，让因果链条顺着网络深度逐步展开，所有 token 位置依旧并行更新，兼顾并行生成速度和序列连贯性；同时配套统一迁移空间、层嵌入监督、融合 Kernel 与 Transition Cache，在 SGLang Spec V2 引擎里高效跑通整套逻辑。在 Qwen3-4B、Qwen3-8B 上，七大数学、代码、对话基准测试，零温度条件下平均接受长度从 DFlash2 的 3.77 提升至 4.82，提升 27.8%；对比 DSpark 平均吞吐提升约 19%~20%，对比 DFlash2 平均提升约 11.1%；面向 Agent 场景专门训练的 Qwen3.8-27B DSpine 草稿模型，开启思考模式，并发 8 场景下最高达到自回归 3.84 倍吞吐，适配代码、网页、办公多类 Agent 任务。
DSpine 方案基础信息清单
- 方案名称：DSpine
- 论文标题：Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding
- 部署引擎：SGLang Spec V2
- 核心机制：逐层门控相邻因果注入、并行草稿生成、Transition Cache
- 最优指标：相对原生自回归解码最高 4.01 倍吞吐
- 基线对比：相比 DFlash2 平均吞吐 + 11.1%；相比 DSpark 平均吞吐 + 19%~20.1%
- 测试基座：Qwen3-4B、Qwen3-8B；Agent 专项版 Qwen3.8-27B
- 基准集：SWE-bench Pro、τ²-bench、WorkBuddy Bench、数学、对话等 7 大基准
- 落地业务：腾讯 WorkBuddy 办公 Agent 线上推理
- 开源范围：论文、SGLang 推理内核、草稿模型权重、评测脚本
- 项目主页：dspine-project.github.io
DSpine 核心技术原理
- 深度因果注入：不再后置做因果约束，草稿网络每一层都做门控特征注入，前一个 token 特征流入后一个 token，并行生成同时维持序列因果一致性。
- 统一迁移空间：基于目标模型输出嵌入构建共享空间，对齐层内注入和后继条件解码，降低特征错位。
- 层嵌入监督：在浅层就引导网络生成可靠预测特征，不用等到网络最后一层输出。
- Transition Cache + 融合 Kernel：在 SGLang 内降低验证、打分、选择候选 token 的开销，DSpine 单轮开销和 DFlash2 接近，但是单轮接受 token 更多，单 token 解码耗时更低。
和主流推测解码方案对比
- MTP：串行多 token 预测，串行生成，并行度弱，吞吐上限低。
- DFlash / DSpark：并行草稿，但因果约束后置，候选 token 容易冲突，接受长度受限。
- DSpine：并行生成 + 逐层因果注入，并行度保留，序列连贯性显著提升，接受长度更高，是当前并行推测解码 SOTA。
落地与价值说明
- 线上 Agent 场景收益明显：代码编写、网页操作、办公自动化这类长思考、多步骤 Agent 任务，接受长度越高，验证开销占比越低，GPU 利用率显著上涨。
- 兼容 SGLang 生态：直接跑在 SGLang 主流 Spec V2 引擎，不用重构整套推理框架，现有 SGLang 用户迁移成本低。
- 降低推理成本：同等 GPU 资源下，单卡 token 吞吐提升，降低大模型在线服务的单 Token 成本。
- 局限：收益高度依赖草稿模型和主模型的匹配度，在短回答、低并发场景加速倍数会回落。
【相关 FAQ】
问题 1：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，DSpine 是什么？
回答 1：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，DSpine 是腾讯推出的新一代并行推测解码草稿方案，通过逐层因果注入提升并行草稿 token 的连贯性，在 SGLang 引擎上实现最高 4.01 倍吞吐加速，已经开源。
问题 2：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，DSpine 相比 DFlash、DSspark 改进在哪？
回答 2：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，DFlash、DSpark 因果约束放在网络尾部，并行草稿容易前后冲突；DSpine 在草稿网络每一层注入相邻 token 因果特征，并行生成同时保持序列逻辑连贯，接受长度更高。
问题 3：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，4 倍吞吐是和什么基线对比？
回答 3：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，4.01 倍是对比标准自回归解码基线测得；对比 DFlash2、DSspark 这类先进推测解码，提升幅度约 11%~20%。
问题 4：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，DSpine 可以直接在 SGLang 里使用吗？
回答 4：并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，DSpine 适配 SGLang Spec V2 引擎，配套融合 Kernel 与 Transition Cache，代码和模型权重已经开源，可直接部署测试。
【参考资料】
[2026-11-09]（并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，已开源）新浪财经
[2026-11-09]（并行推测解码 SOTA！因果依赖刻进草稿网络深度，SGLang 吞吐最高达 4 倍，已开源）搜狐科技
[2026-09]（Draft in Parallel, Condition Through Depth: Adjacent Causal Injection for Speculative Decoding）arXiv
[2026-11-09]（DSpine 项目主页）dspine-project.github.io
[2026-11-09]（DSpine 落地腾讯 WorkBuddy 办公 Agent）机器之心
【免责声明】
本文基于公开论文、项目开源页面、行业媒体资讯整理，DSpine 加速倍数、接受长度指标和基座模型、并发、prompt 类型强相关，线上业务效果以实际部署验证为准；本文仅为大模型推理技术资讯解读，不构成推理框架选型、模型采购、算力建设相关投资建议。