自托管 Langfuse:只追踪到 7% 的智能体流量
来源:dev.to — 2026-10-01
📋 概述
作者在 Discord 里对智能体发了一个帖子 ID 作为批准指令,结果什么都没发出去。这一轮耗时 25 分钟,最后返回了一段自信而详细的文章摘要——全是编的。他自托管 Langfuse 追踪智能体,于是去看了这条 trace:模型耗时 1517 秒,工具只花了 4.6 秒,网络是全场最快的东西。真正的原因与速度无关:这个 Discord 会话是几天前建立的长期会话,而智能体只在会话开始时读取一次技能列表,所以那个会话根本不知道存在「发帖回复」这项技能。被要求做一件它没有工具的事,它就即兴发挥:搜网页、抽取页面、编出一段看起来合理的摘要。修复方法只是开一个新会话,但这次排查让他发现追踪覆盖的流量只有约 7%。
🔑 核心要点
- 那一轮里模型耗时 1517 秒,工具仅 4.6 秒,网络反而是最快的环节。
- 真正原因是长期会话在启动时只读一次技能列表,不知道新技能的存在。
- 被要求做一件没有工具可做的事时,模型会即兴发挥并编造摘要。
- 修复办法很简单:开一个新会话。
- 排查顺带暴露了可观测性缺口:自托管 Langfuse 只覆盖约 7% 的流量。
💡 金句
没有 trace 我会去怪网络工具——一轮要花 25 分钟的搜索,感觉就像网络问题;可 trace 说,网络是这屋里最快的东西。
👍 0
👎 0
← 返回 dev.to 首页