dev.to | 📄 原文链接 | 2026-09-16 收录

只靠提示词的 AI 隐藏着哪些成本

来源:dev.to — 2026-09-15

📋 概述

作为「构建 AI 记忆栈」系列第八篇,作者把问题从架构转向账单:每个 AI 系统都为记忆付费,区别只在付在哪里。很多系统选择把成本几乎全部压在提示词里——上下文窗口变大后,人很容易把它当成可无限扩张的记忆:模型忘了就再塞文档,检索漏了就调大 top-k,答案不完整就把提示写得更长。这种办法好用到某个点为止;成本不只是 API 价格,大提示词会消耗注意力、抬高延迟、让编排复杂化,并逼模型自己从噪声里挑出重要信息。

🔑 核心要点

💡 金句

每个 AI 系统都为记忆付费,唯一的问题是付在哪里。
← 返回 dev.to 首页