上下文窗口到底是什么？
来源：dev.to — 2026-07-22
📋 概述
这是一篇面向初学者的 ELI5（像给五岁小孩解释一样）风格文章，用滑动窗口的比喻解释了 LLM 上下文窗口的核心概念：它是模型一次能"看到"的输入和输出 token 总量。文章还介绍了"失忆问题"（早期消息滑出窗口后模型无法访问）、"迷失在中间"现象（模型更关注开头和结尾），以及 RAG（检索增强生成）如何通过按需检索相关文档来解决这些问题。
🔑 核心要点
- 滑动窗口比喻：上下文窗口就像一个滑动窗口——新消息进入时，旧消息最终滑出，模型无法再"看到"它们。
- 失忆问题：模型没有会话间持久记忆——长对话中早期信息滑出窗口后就不再可见，除非产品层面做了额外处理。
- "迷失在中间"现象：模型天然更关注开头和结尾——中间部分的信息容易被忽略。
- RAG 双管齐下：检索增强生成同时解决"太多装不下"（不需塞整个知识库）和"模型不知道"（训练截止日期后或私有文档）两个问题。
💡 金句
上下文窗口不是记忆——它是一个滑动窗口，旧消息滑出后并不会被记住，只会被遗忘。
👍 0👎 0
← 返回 Dev.to 首页