野外思维链推理并不总是忠实于真实思考
来源:arxiv.org — 排名 #11 · 12 分
📋 概述
这篇论文指出,模型在实际使用中生成的思维链(Chain-of-Thought)并不总与真实推理过程一致:它可能包含事后合理化、跳跃或美化,使「可解释」变得可疑。作者呼吁审慎对待思维链作为忠实解释的假设。
🔑 核心要点
- 思维链不等于真实推理。
- 可能包含事后合理化。
- 质疑思维链即解释的假设。
- 提醒审慎看待模型自述。
- 呼吁更严格的忠实度评测。
💡 金句
模型写下的思路,未必是它真正走过的路。
👍 0
👎 0
← 返回 Hacker News 首页