PrismML 团队将一个 27B 模型压缩到 5.9 GB。
我们未经修改任何一个权重就解除了其审查。🐳

介绍 OrcaRouter 三元 Bonsai 2 27B 未经审查版。

传统的消解方法会修改权重。在一个约 1.72 位三元模型上，这意味着重新量化——可能破坏 QAT 保留的质量。

所以我们将消解过程移到了运行时。
→ 0 个权重被修改
→ 0 次重新量化
→ 原始 5.9 GB 包保持位级一致
→ 129 个残差干预点
→ 可在推理时调整
→ 在 Apple Silicon 上本地运行

无修改检查点。带上原始 Bonsai 包 + 我们的运行时。

开源：
引用：Today, we’re announcing Ternary Bonsai 2 27B.

Based on Qwen3.8 27B, Bonsai 2 27B is 9x smaller than its full-precision counterpart while retaining 98.2% of its aggregate benchmark performance.

Two months after the first Bonsai 27B release, the biggest change is quality. The

here comes the evals

GGUF launched
引用：We just updated the GGUFs http://t.cn/AXO0I4nO…

http://t.cn/AXO0I4nW