dev.to | 📄 原文链接 | 2026-10-29 收录

给 11 个生产 Agent 装上真实计费后:9 个里最贵的不是模型

来源:dev.to — 2026-10-28

📋 概述

上个季度团队不再相信供应商给的 LLM 账单,给 11 个生产 agent 装上了按步骤归因的追踪器:不是默认的「总 token 数」,而是给每次调用、每次工具使用、每次缓存查询都打上它所属轨迹的标签。结果打破了他们的心智模型——以每个已解决任务为单位衡量,而不是按 API 调用次数,最贵的一步在 11 个 agent 里只有 2 个是模型本身;另外 9 个里,某个被归到「可忽略开销」名下的东西悄悄吃掉了比模型更多的钱。原因是结构性的:仪表盘报告的是每次调用的平均成本,因为一次请求最容易暴露这个数,但 agent 的一个步骤不是只调一次,而是在循环里、按分块、按重新规划反复调用。每秒 0.00002 美元的一步看起来免费,在重试检索里被调 180 次就是每任务 0.0036 美元,比只跑一次的模型还贵 28%,而且恰好在你最在意的高难度任务上。

🔑 核心要点

💡 金句

“The ranking is not the same list.”
译:这两份排名的名单根本不一样。
← 返回 dev.to 首页