排序服务必须在严格的延迟预算内返回结果。用户等待超过几百毫秒就会明显感知卡顿，再精准的模型若拖慢响应，整体体验反而下降。
常见的优化手段包括模型蒸馏、特征裁剪、请求级缓存和并行计算。用小模型逼近大模型的效果，是工业界平衡性能与精度的主流思路。
级联架构本身就是性能妥协的产物。粗排用轻量模型快速过滤，精排只对少量候选做复杂计算，把算力花在刀刃上，而非平均分配。
效果与性能并非总是对立。特征质量提升往往比模型加深更划算，去掉冗余特征既提速又可能提效，优化前先做特征审计。
监控要覆盖延迟分位数而非平均值。P99 延迟才反映最差体验，平均值掩盖的长尾卡顿，往往才是用户流失的真实原因。
