1.5 小时训出小模型,ARC-AGI 拿到 44%
来源:mvakde.github.io — 排名 · 291 分
📋 概述
作者用一块 5090 显卡在 1.5 小时内从零训练了一个小型 transformer,在 ARC-AGI-1 公开评测上达到 44%,与更大规模的同类测试时训练模型持平,同时成本仅 67 美分。文章聚焦样本效率——用更少的数据与算力逼近能力上限,成为 ARC 推理领域性价比极高的开源尝试。
🔑 核心要点
- 44% 成绩仅花费 67 美分
- 、
- 1.5 小时单卡训练
- 、SwiGLU 与 RMSNorm 等
- 现代架构改进
- 、附带 7% 的 ARC-2 成绩
💡 金句
样本效率是当下 AI 最重要的问题,而我想要找到它的极限。
👍 0
👎 0
← 返回 Hacker News 首页