Dgx Spark部署DeepSeek 4.1 Flash现状: 3台能跑到37.9 tok/s(作文), TTFT 248 ms,上下文32k约等于不可用;4台 kv池 4 百万,上下文1百万;8台的解码可以去到110toks(代码)
发布于 葡萄牙
Dgx Spark部署DeepSeek 4.1 Flash现状: 3台能跑到37.9 tok/s(作文), TTFT 248 ms,上下文32k约等于不可用;4台 kv池 4 百万,上下文1百万;8台的解码可以去到110toks(代码)