AI Tokenomics 中的语义缓存：用「意思」代替「拼写」命中缓存
来源：dev.to — 2026-08-16
📋 概述
作者在维护一个支持机器人时发现：四个客户用四句不同的话（「怎么重置密码」「怎么重置登录」「忘了密码救命」「登不上了要重置」）问的其实是同一个问题，而缓存一次都没命中——因为它做的是精确字符串匹配。大多数团队的缓存问题不是「我们需要缓存」，而是「我们有缓存但它几乎没用」，因为它只在某人碰巧打出一模一样的话时才会命中。真正的修复不是更大的缓存，而是一种检查「意思」而非「拼写」的缓存。
🔑 核心要点
- 精确匹配缓存靠输入哈希，对「由不同人类写的自然语言」毫无用处——同一问题换一种说法就完全漏掉。
- 语义缓存问的不是「我见过这句确切文本吗」，而是「我见过意思大致相同的吗」。
- 三个要素：embedding（表示句子意义的数字向量，多数 AI 提供商都有）、相似度计算、缓存决策。
- 「你们的营业时间」和「你们几点开门」对人意思相同，对哈希函数却毫无相似。
- 拉取一周的 prompt 按主题而非文本分组，几乎总能发现从没互相命中过的近义问题簇。
💡 金句
真正的修复不是更大的缓存，而是另一种缓存——检查意思，而不是拼写。
👍 0
👎 0
← 返回 dev.to 首页