#DeepSeek发布DSpark#
来看看是啥,感觉不太懂[揣手]
今天(6月27日),DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark,通过重构推测解码逻辑,将模型推理吞吐量最高提升了四倍。
发布于 河北
#DeepSeek发布DSpark#
来看看是啥,感觉不太懂[揣手]
今天(6月27日),DeepSeek联合北京大学正式开源了大模型推理加速框架DSpark,通过重构推测解码逻辑,将模型推理吞吐量最高提升了四倍。