评估系统性能时,平均响应时间是一个常见指标,但它会掩盖长尾问题。平均两百毫秒听起来不错,可如果有百分之五的请求要两秒,这部分用户的体验其实很差。
所以更该看分位数。比如百分之五十、百分之九十五、百分之九十九分位分别代表不同比例请求的响应上限。九十九分位高,说明少数请求明显变慢,需要排查。
长尾延迟往往来自特定情况:缓存未命中、慢查询、大请求、资源竞争。只看平均值发现不了这些,分位数能把问题暴露出来。
实践中可以同时看平均值和分位数,并为关键接口设定分位目标。比如要求九十五分位低于某个阈值,而不是只要求平均达标。这样更能保障大多数用户的真实体验。