#DeepSeek发布DSpark#

DeepSeek联合北大发布DSpark推理加速框架（2026.06.27）

一、基础信息

DeepSeek（深度求索）与北京大学联合推出DSpark，一款面向高并发生产场景的置信度调度半自回归推测解码框架，配套全栈工具链DeepSpec同步开源，已上线DeepSeek-V4-Flash、DeepSeek-V4-Pro线上服务，采用MIT开源协议，支持第三方模型迁移部署。

二、核心技术三大创新

传统推测解码（Eagle3/DFlash）固定草稿长度，高并发下算力浪费严重；DSpark三重机制解决瓶颈：

1. 半自回归草稿生成

并行主干块+轻量顺序模块，草稿模型批量一次性产出多段候选Token，突破逐词生成算力空转问题。

2. 置信度动态调度验证

实时对草稿片段打分，高置信内容直接放行、低置信片段精细重算，动态调整验证长度，最大化有效Token通过率。

3. 硬件感知前缀调度

实时读取GPU显存、负载状态，自适应分配并行验证批次，适配多卡集群高并发流量。

三、实测性能数据（对比基线MTP-1单Token推测解码）

1）单用户生成速度（同等总吞吐量下）

- DeepSeek-V4-Flash：提速 60%–85%
- DeepSeek-V4-Pro：提速 57%–78%

2）系统吞吐量提升（固定用户速度SLA）

- V4-Flash：80token/s吞吐+51%；120token/s吞吐暴涨661%

- V4-Pro：35token/s吞吐+52%；50token/s吞吐暴涨406%

整体吞吐区间提升 51%~400%，效果全面超越Eagle3、DFlash主流方案。

四、适配范围与落地门槛

1. 模型兼容

原生适配DeepSeek V4系列，同时兼容Qwen、Gemma等主流开源大模型，通用性强。

2. 部署要求

企业级/科研场景为主，本地部署通常需要8卡GPU、充足显存存储（约38TB），轻量化单机部署门槛较高。

五、行业意义

1. 国内大模型从“堆参数刷榜单”转向推理效率、算力成本优化；

2. 大幅降低高并发对话、API服务的GPU算力消耗，减少企业推理成本；

3. 全栈开源MIT协议，可商用二次开发，给开源社区提供高性能推理底层方案。http://t.cn/AXSQ5EXw