别再拟人化中间 token,把它们当作「推理/思考轨迹」
来源:arxiv.org — 排名 #29 · 128 分
📋 概述
论文指出社区普遍把 LLM 的中间 token 拟人化,误当作真正的「推理」「思考轨迹」来解读,这种理解方式存在根本性偏差。作者呼吁以更严谨的视角看待这些中间输出,避免对模型行为做出过度或误导性的解释。
🔑 核心要点
- 拟人化中间 token的误区
- 批判「推理轨迹」误读
- 呼吁严谨解释模型行为
- 避免过度解读
- 厘清思考与输出的关系
💡 金句
把 token 当思考,就像把画布上的颜料当成画家的念头。
👍 0
👎 0
← 返回 Hacker News 首页