#DeepSeek全面开源DeepInfer#
DeepSeek开源推理框架DeepInfer,披露单卡每小时38美元实测收入
10月20日,DeepSeek宣布全面开源内部推理框架DeepInfer,并罕见披露了单卡每小时38美元的实测收入数据,将大模型的成本底牌直接亮给全行业。
开源内容:全面开源内部推理框架DeepInfer及生产级Token编解码组件deepseek-recipe,把自研的推理优化能力直接交给社区。
核心数据:基于该框架,单集群日服务吞吐量达155万亿Tokens,按谷电价计算整体收入为每卡每小时38美元。这个数字意味着推理服务的成本与收益账本第一次被摆上台面,过去厂商只谈模型能力,不谈单位经济模型。
开源框架是给行业省重复造轮子的功夫,披露收入数据是给市场一个真实的成本参照。大模型竞争走到今天,光秀参数已经不够了,敢把成本账摊开算,才是真底气。就看同行接不接这招了🔍
#DeepSeek #DeepInfer #开源 #大模型成本 http://t.cn/AXjvpLYV
发布于 河北
