五个小模型组队做编程题,在 LiveCodeBench Hard 上压过 Fable 5
来源:github.com — 2026-11-01
📋 概述
Memdoor 仓库里的 team-solve workflow 用五个 Qwen3.8-27B 实例分工:一个规划、两个出思路、一个求解、一个管理,另加一个修复工人。每个实例从全新上下文开始,只通过磁盘上的文件通信,成功与否由一个跑测试的脚本判定,不由模型自评。在 LiveCodeBench Hard 前十题、每题五次运行的设置下,平均通过 9.8 次,作者自己的 harness 是 9.6,Fable 5 单次调用是 8.0。
🔑 核心要点
- 整个流程是八个 YAML 文件,没有代码,也没有在配置里点名任何模型。
- 上下文不共享是关键设计:智能体之间只传文件,避免互相污染推理过程。
- 判分由脚本执行全部隐藏测试,模型无权宣称自己通过。
- 50 次运行中位数耗时 40 分钟、成本 0.39 美元,总计 35.79 美元。
- 样本只有十题五遍,作者也承认这个规模下 9.8 与 9.6 在统计上难以区分。
💡 金句
Five small models solve a programming problem together: a planner, two ideators, a solver and a manager, plus a repair worker.
👍 0
👎 0
← 返回 Hacker News 首页