21世纪经济报道
26-10-20 19:38 微博认证:21世纪经济报道官方微博

#DeepSeek全面开源DeepInfer#【重磅!DeepSeek宣布开源原生推理框架】10月20日,深度求索公司宣布,将内部推理框架“DeepInfer”全面开源,并同步开放生产级Token编解码组件deepseek-recipe。

这意味着,云厂商可以使用DeepSeek原生推理框架部署DeepSeek模型,实现接近DeepSeek官方调用的性能和成本——并且在负载调度合理的情况下,大规模云厂商部署非原生DeepSeek的调用成本甚至存在低于官方原生的可能性。

有报道称,相关代码已在GitHub等开发者社区发布。

据@21世纪经济报道 记者了解,在全球头部大模型企业中,DeepSeek是首个开放原生实际运行推理框架的企业。(@21世纪经济报道 记者:赵云帆)http://t.cn/AXlsaueX http://t.cn/AXlswQ6l