账单翻了三倍那天,没有人认领这笔开销
来源:dev.to — 2026-10-25
📋 概述
这是一份匿名复盘:周二早上成本告警触发,共享平台项目的 Vertex AI 花费一夜涨到约三倍。九个服务都从这个项目调用 Gemini,共用同一个服务账号和同一个模型,而账单只能告诉「花了多少」,说不出是谁、哪个功能、哪一步。根因是夜间工单摘要流程审查环节的重试循环——新提示词要求语气更严格,草稿被驳回后就要带上全部工单历史、上一版草稿和审查意见重写,上下文每轮膨胀。检测用了约八小时,定位用了两小时十四分,本该五分钟。更深一层的根因是:所有模型调用都没有带请求标签。
🔑 核心要点
- 九个服务共用一个服务账号调用同一个模型,账单无法归因到人
- 一句提示词改动让审查环节开始逐轮重写,上下文每轮都在膨胀
- 检测用掉约八小时,定位用掉两小时十四分,而本该五分钟
- 真正缺的不是监控,而是每次模型调用上的请求标签
💡 金句
“The billing console told us exactly how much we spent. It could not tell us who, which feature, or which step.”
译:账单控制台精确告诉了我们花了多少,却无法告诉我们是谁、哪个功能、哪一步花掉的。
← 返回 dev.to 首页