dev.to | 📄 原文链接 | 2026-10-12 收录

缺失的那一块:为什么模型该弃答时却在幻觉答案

来源:dev.to — 2026-10-10

📋 概述

作者指出一个被基准训练出来的病态:在 GSM8K、MATH、HumanEval 这类评测里,大胆算出数字的系统拿分,停下来问「这里是不是少了一个数」的系统得零分,于是模型学会了「无论如何都要给答案」。到了生产环境——自主 Agent、金融助手、医疗诊断工具——遇到信息不完整或自相矛盾的问题时,它不会说「我信息不够」,而是编一个看起来合理的数字、用自信的语气包起来、当作什么都没发生继续往下走。为科学地测量这一点,他做了 MISSING PIECE:60 个基础问题模板覆盖六个推理领域,配成 120 个实例,其中恰好 60 个完好、60 个被手术式植入缺陷,措辞、实体名、故事结构完全一致,唯一变量是信息缺陷。三类缺陷分别是缺失数量、缺失关系(如第二段行程的时长没说)与自相矛盾的事实。模型必须在贪婪解码下返回严格 JSON,状态只能是 ANSWER 或 INSUFFICIENT。

🔑 核心要点

💡 金句

答案是到不了的时候——你的 AI 知道这一点吗?
← 返回 dev.to 首页