p99、负载均衡与自动扩缩：可以上手玩的延迟直觉
来源：dev.to — 2026-10-07
📋 概述
平均值会掩盖延迟问题。每个 SRE 都吃过这个亏：面板说平均 80ms，工单却说应用很慢，因为平均值抹平了一条尾部——每百个请求里有一个要花四秒，而请求量最大的重度用户最常撞上它。百分位是看见尾部的工具，但词汇好背、直觉难养。作者给出三个免费的浏览器模拟器，让你在没有真实故障的情况下建立 p99 直觉。
🔑 核心要点
- p50、p95、p99 这套词汇很快能背下来，但真正的直觉通常只来自事故现场。
- 延迟百分位模拟器用直方图呈现 P50、P90、P95、P99 标记，并随控件实时移动。
- 五种合成分布对应五类故障，其中冷启动让 P50 几乎无感，而 P99 会陡然上升。
- 缓存颠簸场景说明命中很快、穿透很慢时，尾部是如何被一点点拉长的。
💡 金句
平均值抹平了一条尾部：每一百个请求里，有一个要花四秒。
👍 0
👎 0
← 返回 Dev.to 首页