小模型之王回归!来自
@Alibaba_Qwen
的 Qwen3.8-27B 开源了,SGLang 中 Day-0 支持已上线:
- 在单个 RTX 5090 上,结合我们的 NVFP4 和 DSpark,解码速度达 206.1 tok/s
- 在 DGX Spark 上,解码速度达 38.28 tok/s
Qwen3.8-27B 再次提高了小模型在代理规划和长时程任务上的能力上限。
(小模型)国王万岁!使用 SGLang 在本地运行它 👇
发布于 北京
