作者在非洲金融科技黑客松项目 StacksNG 中发现,他的 RAG 助手会为一个不在知识库里的支付供应商编造完整的认证流程、真实外观的端点和假引用。第一个「检索置信度阈值」修复方案被数据证伪:最严重的幻觉反而有最高的检索相似度。真正的病灶是同领域品牌替换——模型没混淆主题,却从未检查检索片段里是否真的提到被问的那个供应商。软性提示词修复经独立第三方 15 次重测只对三分之二供应商有效,最终方案是加一个确定性的字符串匹配闸门:列出约 25 个不在库内的非洲金融品牌,问题命中即直接拒绝。