RAG 第四阶段：检索质量与有据可依的回答
来源：dev.to — Jul 20
📋 概述
surajrkhonde 以叔侄对话形式讲解 RAG 系统最关键的阶段——从「最近向量」到「可信回答」。核心问题：当数据库中根本没有相关文档时，Top-K 仍会返回 5 个最近（但无关）的片段，LLM 会基于垃圾上下文「自信地编造」。解决方案涵盖四步：重排序、相关性阈值/拒答、带引用的提示词组装、混合搜索兜底。
🔑 核心要点
- Top-K 返回「最接近」而非「真正相关」——即使数据库零相关内容，也会返回 5 个无关片段
- 四步方案：重排序（用更强模型精确评分）、相关性阈值/拒答、带引用的提示词、混合搜索
- 拒答的重要性：当没有相关文档时应该说「我不知道」，而非基于无关上下文编造
- 每一条声明可追溯到来源——这不是 LLM 的责任，是检索设计的责任
- 通过叔侄对话教学法，用故事解释复杂概念，轻松但有深度
💡 金句
Top-K 返回的是最接近的向量——它没说那 5 个是真正相关的。只是存在的里面最接近的。即使你的数据库里根本没有关于请假政策的任何内容，Top-K 仍然会自信地丢给你 5 个片段。
👍 0
👎 0
← 返回 Dev.to 首页