🔻Deepseek 今天表示：
🔹隆重推出 DeepInfer——我们的自研推理框架，现已全面开源！
🔹以高吞吐量和低延迟大规模支撑 DeepSeek-V4.1-Flash。我们分享这一生产级技术栈，旨在帮助社区降低计算成本、减少能源消耗，让 AI 更加普惠。
🔻目前，在 DeepSeek 技术栈中：
🔹应用层 · DeepSeek Harness，8 月已开源
🔹接口层 · deepseek-recipe，同日开源
🔹模型层 · V4.1-Flash，权重开放
🔹算子层 · FlashMLA / DeepGEMM / DeepEP / TileLang，已陆续开源
🔹本次主角是引擎层 · DeepInfer，今日开源。
🔻这意味着 DeepSeek 开放了生产环境推理引擎的“核心”。
🔻模型权重开源已经是常态，而推理框架一直被认为是模型厂商保持竞争优势的环节。因为决定成本的不只是用什么模型，还包括一套机器能同时接入多少请求、缓存能复用多少、卡和卡之间通信怎么协调。官方口径是单集群一天 15.5 万亿 token、平均 TTFT 约 400ms、输入缓存命中率 96%、每卡每小时收入约 38 美元。开源框架，实际上是把“成本曲线”本身开源了，这比开放一组权重对行业的实际影响更大。batch-invariant 推理和确定性采样（同批次组成下结果逐位一致）这类特性，对 RL 训练和线上结果审计有额外价值，这套实现最后很可能被上游社区大量借鉴。
🔻同时支持 NVIDIA 和华为昇腾，昇腾 950 和 NVIDIA SM100 被放在同一份官方支持列表里，使用同一个引擎、同一套算法，TileLang 定制算子两边各约 30 个一一对应，DeepGEMM/DeepEP 都有 Ascend 版本。以前国产卡跑 DeepSeek 新模型，基本是芯片厂商自己维护 vLLM/SGLang 的分支，性能始终落后一步；现在这个差距被压缩到“硬件本身和底层算子质量”。对国产算力的影响可能比技术本身更深远。
🔻开源 vs 闭源之战，它们想打多久，我们就打多久，一直打到完全胜利。
#DeepSeek全面开源DeepInfer##热点聚焦#