目前5090单卡跑Qwen3.6-35B-A3B的最强引擎就是 ninfer，单流解码接近400toks，完爆vllm，不愧是专门为5090重新设计的引擎
发布于 葡萄牙