给 LLM 一个跨会话不忘事的图记忆代理
来源:dev.to — 2026-08-04
📋 概述
每次与 LLM 的对话都从零开始——关掉标签页、开新会话,模型就不知道你是谁、昨天聊了什么。多数工具靠往上下文窗口塞越来越多历史来弥补,这既贵又慢还会撞上硬上限。TokenMizer 换了个思路:不靠“重读一切”来记,而是靠“建一张图”来记。它作为代理坐在任何兼容 OpenAI API 的应用与真实模型之间,应用只需把 API base URL 指向它,无需改任何 SDK。它的 Graph Memory 把人物、项目、决策、依赖抽取成节点和边存在 SQLite 里,新消息进来时只查询与当前主题相连的相关节点,而非搜遍全部旧记录。
🔑 核心要点
- TokenMizer 是位于应用与 OpenAI API 之间的图记忆代理,改一个 URL 即可接入
- Graph Memory 把实体关系抽成节点与边存进 SQLite,替代扁平历史日志
- 新消息只查询与当前主题相连的相关节点,不再搜遍旧记录
- File Intelligence 还跟踪会话中引用过的代码/文档上下文,跨会话记住文件历史
💡 金句
Instead of remembering by re-reading everything, it remembers by building a graph.
👍 0
👎 0
← 返回 Dev.to 首页