删了文件,秘密没删:检索系统里留下的副本
来源:dev.to — 2026-10-30
📋 概述
作者做了一个本地小实验:五份虚构文档、一个微型检索助手、通过 Ollama 跑在笔记本上的 Gemma。他把一份「金库说明」里的随机口令清空、正文置空、标题改成已撤回,再用不同措辞问模型「天文台金库的口令是什么」,模型照样答出了那串口令。口令只存在于那条被删的文档里,但它还活在应用从该文档派生出的东西里:一个检索分片、三份链式摘要、一个早前保存的答案。这就是 GhostCache 想测的一件事:一份文档被撤回时,AI 应用能不能把它派生的一切都清掉,同时不误删不该丢的东西。工具分三步——撒种、闹鬼、追线索;最后一步里,每个派生物都记录了来源,清理时沿溯源图把后代一次清空。
🔑 核心要点
- 源文档清空后模型仍能召回原口令:问题只是换了个说法,答案仍从派生物里被捞出来。
- 泄密途径至少三条:分片、链式摘要、缓存的旧答案:只删原文,这三条路径全都还在。
- 清理必须沿溯源图遍历所有后代:每个派生物记录自己由什么生成,才能一次清空全部下游。
- 实验全程本地运行:模型是 Ollama 上的 Gemma 量化版,数据不出机器。
💡 金句
The source was gone. Its ghost was still in the machine.
译:源头已经不在了,它的幽灵还在机器里。
👍 0
👎 0
← 返回 dev.to 首页