#DeepSeek发布DSpark#6月27日，DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark，这项技术通过重构推测解码逻辑，最高能将模型推理吞吐量提升4倍，直接把大模型的运行效率拉上了一个新台阶。
发布于 重庆
低调小透明就好
#DeepSeek发布DSpark#6月27日，DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark，这项技术通过重构推测解码逻辑，最高能将模型推理吞吐量提升4倍，直接把大模型的运行效率拉上了一个新台阶。