DeepSeek又放大招!
这一次,它开源的不是大模型,而是支撑大模型高效运行的底层推理框架DeepInfer。
10月20日,DeepSeek宣布将已用于自身大模型服务的核心推理技术开放给外界,AI行业的竞争,正在从模型能力进一步深入底层技术。
为什么愿意分享核心技术?
因为AI竞争,早已不只是比谁的模型更聪明,还要比谁能以更低的成本、更高的效率提供服务。推理框架直接影响模型运行效率和算力利用率,技术优化一旦被更多开发者和企业采用,就有机会放大整个行业的效率优势。
从开源模型到开源推理技术,DeepSeek正在把技术竞争推向更深的底层。未来AI行业拼的不只是智能上限,更是成本效率。
#DeepSeek开源推理框架有何意义#
发布于 上海
