Lobsters | 原文链接 | 2026-09-29 收录 · 热度 6

怎么解决幻觉：用 RLCD 把「我大概 90% 确定」变成可用的概率

来源: www.robw.fyi — 2026-09-28

问模型有多大把握，它给出的数字和它编造内容时出自同一套下一个词预测机制，是一种措辞而不是测量。作者提出换一种问法：不让模型报一个温度，而是让它输出整条概率分布，再用 RLCD 这种对照结果打分的方式，训练它对「自己有多确定」保持诚实。校准之后，概率就能进入期望值计算，甚至直接决定下注多少。

核心要点

不确定性有两类：来自数据与先验知识的认知不确定性会随历史积累而缩小，而未来本身的偶然不确定性永远不会消失。
正确的语言是概率分布：把历史温度区间切成桶，让模型为每个桶分配概率并求和为 1，据此检查它是否对确定性诚实。
打分函数的设计是关键：永远自信的模型每次猜错都被重罚，永远模棱两可的模型即使猜对也拿不到高分，唯一能让总分最大化的做法是说出真实概率。
校准后的数字不再是语气词：把看涨区间概率相加得到 0.62，就能直接代入 Kelly 公式算出应该下注多少，负值则意味着按它自己的数字根本没有优势。
作者实测 JEV 对 NVDA 的次日走势分布：它把 95% 的概率压在紧贴收盘价的单个 5 美元区间，而按 50 个交易日 2.46% 的实际波动率，这个区间大约只值 30%。
结论是校准只在训练数据覆盖的分布内成立，而 JEV 这类闭源 API 模型没法在你的领域上微调，所以能自己用开源模型跑这个循环，和循环本身同样重要。

简而言之，校准把模型的置信度从一种感觉变成了控制信号。