性能指标 P99（99th Percentile）
P99（99th Percentile） 是衡量系统性能的关键指标之一，表示 99% 的请求响应时间都低于这个值，反映的是系统在最差情况下的尾部延迟（Tail Latency）。与之类似的还有 P90、P95、P999 等。
1. 核心概念
- 定义：将所有请求的响应时间从小到大排序，第99百分位的值即为P99。
- 例如：P99=200ms，表示99%的请求耗时 ≤200ms，剩余1%的请求耗时 >200ms。
- 作用：揭示极端场景下的用户体验（如慢请求），比平均响应时间（Avg）更具参考价值。
2. 为什么P99比平均值更重要？
| 指标 | 平均响应时间（Avg） | P99响应时间 |
|---|---|---|
| 反映问题 | 整体性能 | 最慢的1%请求体验 |
| 敏感度 | 容易被快速请求拉低 | 暴露长尾问题 |
| 业务影响 | 用户感知不直接 | 直接影响高价值用户留存 |
示例：
- 某系统 Avg=50ms，但 P99=2s → 1%的用户遭遇严重卡顿（可能是VIP用户的关键操作）。
3. P99 常见的高场景原因
- 资源竞争：数据库锁、线程池耗尽、CPU抢占。
- 网络抖动：跨机房调用、移动端弱网。
- 垃圾回收（GC）：Java应用的Full GC停顿。
- 外部依赖：第三方API响应不稳定（如支付接口超时）。
4. 如何优化P99？
- 代码层面：避免同步阻塞调用，改用异步/非阻塞（如Node.js、协程）。
- 基础设施：
- 使用本地缓存（如Redis）减少数据库P99。
- 为慢请求配置单独线程池（隔离影响）。
- 监控工具：
- 通过APM（如SkyWalking）定位P99高的请求链路。
- 日志中标记慢请求的TraceID，针对性分析。
5. P99与P999的区别
- P99：关注99%的请求（容忍1%的慢请求）。
- P999：更严格，99.9%的请求需达标（如金融交易系统）。
案例：
- 视频网站可能要求P99<1s，但P999可以放宽到3s。
- 支付系统则可能要求P999<500ms。
总结
P99是衡量系统稳定性和用户体验的重要指标，优化P99需要结合代码、架构和监控手段，尤其要解决长尾请求的问题。压测时务必监控P99，而非仅关注平均值。