dev.to | 📄 原文链接 | 2026-10-14 收录

用 llamadart 做本地嵌入:羊驼之间怎么分享秘密

来源:dev.to — 2026-10-12

📋 概述

这是「llamadart 聊天之外」系列的第二篇。故事从 Pip 的红围巾不见了开始:Mo 知道它在哪,也知道它是怎么掉进池塘的,而这件事他更愿意自己留着。作者要解决的是游戏里一个更硬的问题——当两只羊驼对话时,听者到底应该学到什么。实现方式是本地嵌入:游戏先缩小范围,只取说话者知道而听者不知道的事实,再把这些事实与说话者的台词逐条做余弦相似度比较,取每条事实的最高相似度。他强调嵌入模型返回的只是向量,模型并不会告诉你「听者知道了围巾的位置」,相似度不是「意思相同、内容为真、或蕴含关系成立」的是非判定,那个决定发生在后续的游戏规则里。实现用 EmbeddingGemma(embeddinggemma-300M-Q8_0.gguf),向量按文本缓存,两个文本必须使用同一个嵌入模型与兼容配置。

🔑 核心要点

💡 金句

嵌入模型返回的是向量,不是结论——相似度分数并不判断两句话是否表达了同一件事。
← 返回 dev.to 首页