谷歌发布 Gemma 4 QAT。✨
您现在可以用不到 3 倍的内存运行 Gemma 4，性能接近原始水平。
量化感知训练 (QAT) 使得在 16GB RAM 上运行 Gemma 4 26B-A4B 成为可能。
GGUFs: http://t.cn/AXXN5MI3
QAT 指南: http://t.cn/AXXN5MIu
发布于 北京
斌叔OKmath