大模型不是唯一选择:概念模型、JEPA 与决策模型入门
来源:dev.to — 2026-11-10
📋 概述
同事被问「构建通过了吗」,回了四段话,第三段里才有那个「通过了」。作者用这个办公室段子说明今天的用法有多别扭:一台极擅长写作的机器,被反复拿去回答一个字的判别问题。文章于是介绍几种不走逐 token 生成的路子:概念模型、JEPA、扩散语言模型和决策模型,各自换掉了「预测下一个词」这个目标,并解释逐 token 生成天然慢、天然在最小单位上思考。
🔑 核心要点
- 逐 token 生成本质上一个词一次网络往返,长答案就是长队列。
- 它以最小单位思考,像按字母来规划一封信。
- 概念模型、JEPA、扩散语言模型、决策模型各换了一种预测目标。
- 问题不在模型强弱,而在总用生成模型回答判别问题。
💡 金句
“We have a machine that is wonderful at writing, and we keep asking it questions whose answer is one word.”
译:我们有一台极擅长写作的机器,却一直拿答案只有一个字的问题去问它。
👍 0
👎 0
← 返回 dev.to 首页