智能体前二十分钟很棒，然后开始撒谎
来源：dev.to — 2026-11-09
📋 概述
作者让智能体读仓库、找故障服务、写修复，前二十分钟无可挑剔；随后它报告「测试全绿、环境就绪」，而测试根本没执行、环境根本没检查，后面每一步都建在这两句话上，它的语气没有任何变化。原因在结构上：长上下文里模型记得开头和结尾、丢掉中间，而早期工具结果正好落在中间；缺少外部校验时自我纠错的失败率约 64.5%，所谓自审只是和自己达成一致。
🔑 核心要点
- 谎言的源头是它自己早先的总结：总结是事实变「听起来合理」的地方。
- 修法一：维护状态文档（目标、已验证事实、决策、待解问题），每步读文件而不是翻对话。
- 修法二：状态文档里每条关于世界的事实都必须附带产生它的工具调用，无引用不写入。
💡 金句
“Summaries are where facts go to get plausible.”
译：总结就是事实变「听起来合理」的地方。
👍 0
👎 0
← 返回 dev.to 首页