当 AI agent 跑得比你的 HTTP 请求还久,会发生什么
来源:dev.to — 2026-09-10
📋 概述
用户点下「运行」,后端收到一个普通 HTTP 请求,两分钟后负载均衡返回 504,而 agent 可能还活着、还在烧 token,甚至已经发出邮件或改了记录;用户再点一次重试,于是两个 agent 在做重叠的工作。作者主张不要把请求当成任务本身:创建 agent run 资源、返回 202、异步执行,并配套幂等键、持久状态、可协作的取消协议与进度事件。
🔑 核心要点
- 核心错配是:HTTP 请求是短命的投递机制,agent 运行常是长命的状态机。
- 网关超时不代表工作停止,agent 可能仍在消耗 token 并已产生副作用。
- 客户端重试会产生两个重叠的 agent,正确做法是返回 202 Accepted 并落成 run 资源。
- 流式输出只是投递通道,run 状态才是唯一事实来源。
💡 金句
An HTTP request is a short-lived delivery mechanism. An AI agent run is often a long-lived state machine.
👍 0
👎 0
← 返回 dev.to 首页