ThinkingCap 第五弹：让 Gemma-4-26B 少想 39%，准确率只掉 0.15 个百分点
来源：bottlecapai.com — 2026-10-23
📋 概述
BottleCap AI 把「压缩思考 token」的手艺用到了 Google 的稀疏 MoE 模型 gemma-4-26B-A4B 上：十二个基准平均思考量减少 38.9%，准确率只降 0.15pp，单任务最多减 69.1%。降低最多的是长上下文与多模态（54.4%），最少的是指令遵循与 agent 任务（17.2%）；指令遵循和数学两组还各涨了 0.65pp 和 0.39pp。另一个可量化的收益是循环退化：原模型有 3.6% 的回答陷入重复循环，新模型降到 0.8%。
🔑 核心要点
- 平均省 38.9% 思考 token、最多 69.1%，代价是 0.15pp 准确率——小于多数基准的跑动噪声。
- 长上下文与多模态省得最多（54.4%），指令遵循与 agent 类省得最少（17.2%），说明「想太久」集中在推理密集型任务。
- 循环率从 3.6% 降到 0.8%，本质上是把病态长思考也治了。
- 采样参数与服务栈完全不变（vLLM、thinking on、temperature 1.0），可以直接替换；PRO 版更激进，省 62%。
💡 金句
We reduced how much Google's gemma-4-26B-A4B-it thinks, without compromising the quality of its answers.
👍 0
👎 0
← 返回 Hacker News 首页