Hacker News | 📄 原文链接 | 2026-09-19 收录

Bonsai 2 27B 把体积缩小 9 倍,仍保留 98.2% 的基准性能

来源:prismml.com · 536 分 · by JonSchneider

📋 概述

PrismML 发布 Ternary Bonsai 2 27B,基于 Qwen3.8 27B,采用三值权重 {−1, 0, +1} 加 FP16 分组缩放,等效每权重 1.76 bit,模型总占用 5.9GB。低比特表示端到端应用于整个语言模型,支持 262K token 上下文与文本加图像的多模态输入,并以 Apache 2.0 许可发布。相比全精度版本,它体积缩小 9 倍以上,同时保留 98.2% 的综合基准性能;作者认为在这个保留率上,压缩本身就是一次部署解锁——能力几乎不减,却能跑在更多地方。相比两个月前发布的第一代 Bonsai 27B,这一版换了更强的底座,并在推理、编码、视觉与智能体能力上有所提升。

🔑 核心要点

💡 金句

在这个保留率上,压缩本身就成了部署的解锁条件。
← 返回 Hacker News 首页