使用 Qwen 3.8 27b 的朋友们，最好把这个图像保存下来。
- 大家应该大多会用 Q4_K_S，如果有余裕多用 4G 左右的 RAM 容量，就能将 BF16 基准的准确度提高约 3%。
- KV 缓存用 Q8 而不是 Q4，就能平衡速度和准确度。
发布于 北京
斌叔OKmath