//@水泊寺无业青年:我们公司部署了一下deepseek671 b fp8的模型。测算了一下每百万token成本发现想要达到deepseek官方api价格还得大量优化推理方式。实际上不管是硅基流动还是腾讯云都在亏钱卖API
发布于 四川
_bhPluto
//@水泊寺无业青年:我们公司部署了一下deepseek671 b fp8的模型。测算了一下每百万token成本发现想要达到deepseek官方api价格还得大量优化推理方式。实际上不管是硅基流动还是腾讯云都在亏钱卖API