dev.to | 📄 原文链接 | 2026-10-14 收录

余弦相似度是 0.92,而载荷其实早就死了

来源:dev.to — 2026-10-13

📋 概述

一个代理从记忆里取回了东西,它的下一步动作看起来变了,于是有人写博客说「代理被持久记忆投毒了」。作者认为「动作变了」和「记忆改变了动作」之间有一条很宽的鸿沟,绝大多数演示都掉在里面。他给出的方法叫反事实截肢:先跑一遍场景并记录一切,再用完全相同的方式重跑,只改一件事——在某个载体第一次产生影响的读取之前让它不可检索,然后用动作轨迹中发生变化的比例 Δaction 作为因果效应的度量。整个装置先用一个确定性的脚本代理验证过,因为一个测不出非零的装置给出的零没有意义。最有用的结果是一个负数:那个余弦相似度 0.923 的载荷,在行为上完全不起作用——它被存储、被检索、甚至衍生出新的载体,但对动作轨迹的影响为零。

🔑 核心要点

💡 金句

在被证明之前,「代理被记忆投毒了」只能算是一种形容词,而不是一次测量。
← 返回 dev.to 首页