Bonsai 2 27B：三值权重把体积压到九分之一，仍保留 98.2% 性能
来源: prismml.com — 2026-09-17
概述
PrismML 发布 Ternary Bonsai 2 27B，基于 Qwen3.8 27B，采用三值（−1、0、+1）权重加 FP16 分组缩放，等效每权重 1.76 bit，总体积 5.9GB，支持 262K 上下文与图文多模态，Apache 2.0 许可。相比全精度版本体积缩小九倍以上，仍保留 98.2% 的综合基准性能，官方把这种保留率称为「部署解锁」。
核心要点
- 相比全精度对照模型体积小九倍以上，而基准性能保留 98.2%，官方把压缩本身当作部署的解锁条件。
- 基准总分 83.9 对全精度 85.4，其中指令遵循（82.66）甚至高于全精度版本（81.25）。
- 官方强调关键不只是总分，而是能力保留在哪些部分——编码代理、工具调用与长程任务最怕小错误逐步累积。
- 许多低位宽替代方案必须牺牲编码、视觉或代理工具使用能力才跑得起来，Bonsai 2 因此在「智能密度」上是个离群点。
- 演示里用 Cline 驱动 Bonsai 2 27B，在单张 RTX 5090 上跑编码代理。
金句
在这一保留水平上，压缩本身成了部署的解锁条件：能力几乎不变，而体积能让它跑在远多的地方。
👍 0
👎 0
返回 Lobsters 首页