DSpark：推测性解码加速 LLM 推理 [pdf]

DSpark 与推测性解码

• DSpark 被介绍为 DeepSeek 的新推测性解码系统，通过改进 drafter 模型和验证策略来加速 LLM 推理，从而在规模化场景中减少无效的验证工作。
• 它已经在 DeepSeek-V4-Flash 和 V4-Pro 的生产环境中取代了此前的多 token 预测方案（“MTP-1”），并被认为带来了显著的真实世界吞吐提升。
• 评论者指出，它建立在更早的推测性解码工作之上（例如 2022 年的论文），消除的是此前的瓶颈，而不是发明了这个概念。

性能、定价与部署

• DSpark 以及 Lookahead Sparse Attention 等技术被认为是 DeepSeek 大幅降价的关键原因之一（有说法称约降低了 ~75%，并且在实践中相比某些竞争对手“便宜 100 倍”）。
• 用户反馈 token 量很高而成本极低，尤其是在与缓存以及更便宜的提供商或直接使用 DeepSeek API 而不是像 OpenRouter 这样的聚合器结合时。
• “-DSpark” 版本的 V4-Flash 和 V4-Pro 的 Hugging Face 权重已经可用；推测性模块已集成其中。
• 有人希望看到在消费级 GPU 上的基准测试；也有人指出，这类优化主要降低的是内存带宽压力，因此理论上应当普遍受益。

生态系统与开源模型

• 许多人认为 DSpark 是一个更广泛趋势的一部分：中文实验室发布开源权重、详细论文和基础设施（例如训练流水线），供他人在各种模型（Qwen 等）上复用。
• 也有人乐观地认为，面向不同用例的小型专用推测 drafter 模型会不断涌现，而这类技术会让各家提供商的性能提升趋于商品化。

美国 vs 中国实验室、开放性与资金模式

• 一些人将 DeepSeek 的开放性和软件层面的优化（一直到 PTX）与美国实验室被认为的保密、监管导向，或依赖不断扩大的数据中心和顶级 Nvidia 硬件形成对比。
• 也有人反驳说，美国实验室几乎肯定也在使用类似的底层优化，只是选择不公开；不发表论文并不意味着没有创新。
• 对中国实验室的看法不一：有人认为它们通过“拼劲十足”的工程追赶上来，结构上更协作，受到国家鼓励去让 LLM 商品化，和/或在资金上承受更少的短期营收压力。

伦理、IP 与商业影响

• 对“蒸馏攻击”存在强烈分歧：有人称其为盗窃和“典型”的中国商业行为；也有人认为既然你为 token 付了钱，就可以按自己的方式使用输出，并指出美国实验室本身也曾用未授权数据训练。
• 评论者认为，如果你的护城河是“不要蒸馏我的输出”，那你就没有护城河。
• 还有不少人认为，开放、便宜、“足够好”的模型，加上 DSpark 这类优化，会压缩利润空间、威胁前沿实验室的 IPO 叙事，并加速通用 LLM API 的商品化。