#DeepSeek发布DSpark#
今天（6月27日），DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark，通过重构推测解码逻辑，将模型推理吞吐量最高提升了四倍。 http://t.cn/AXSQbarX
发布于 浙江
初冬忆春雨
#DeepSeek发布DSpark#
今天（6月27日），DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark，通过重构推测解码逻辑，将模型推理吞吐量最高提升了四倍。 http://t.cn/AXSQbarX