AUC 衡量的是排序能力,即随机正样本得分高于随机负样本的概率,它不关心分数的绝对校准。所以 AUC 高只说明相对顺序好,不代表预估点击率可以直接用于出价或排序融合。
线上效果差常见原因之一是训练与服务的样本分布不一致。离线样本经过采样、去重、过滤,而线上流量包含大量异常请求、机器人流量和曝光未点击的长尾,分布差异会直接拖垮效果。
第二个原因是 AUC 对头部不敏感。业务真正关心的是 Top 位置的精准度,而 AUC 是全局指标。此时应补充 GAUC、NDCG、Precision@K 等更贴近业务位置的指标。
第三个原因是特征时效性。离线特征回填用的是 T+1 数据,线上却是实时值,两者分布不同,模型在线上等于面对新分布,AUC 自然失真。
因此评估模型不能只看单一指标,要结合校准曲线、分组指标和线上 AB 实验。AUC 是筛子,不是终点。