站群导航· 游戏攻略 / 礼包码 / 配置 / 换算 / 查询 / 手册
导航菜单
首页 全部文章 留言本

AUC 很高却上线翻车:模型评估指标的选择

离线评估是模型上线前的必经环节,但指标选错会让团队产生虚假安全感。AUC 是最常用的排序指标,衡量正负样本的排序能力,却对绝对概率不敏感,也无法反映业务关心的阈值附近表现。

举个例子,AUC 从 0.80 提升到 0.81 看似进步,但如果业务只关心点击率最高的前 5% 位置,就需要看 Precision@K、Recall@K 或 NDCG 这类TopK指标,它们更贴近实际展示场景。

当正负样本极度不均衡时,准确率会严重失真,此时应看召回率、F1 或 PR 曲线。若业务关注校准程度,比如预估点击率要用于竞价排序,则必须看 LogLoss 和校准曲线,而不只是排序能力。

单一指标永远有盲区,实践中要构建指标组合:排序看 AUC 和 NDCG,分类看 PR,校准看 LogLoss,业务看转化率和收入。同时要按用户分层、物品分层分别评估。

最重要的是离线指标与线上指标的相关性验证。如果历史多次出现离线涨、线上跌,就要反思评估集是否与线上分布一致,是否存在数据泄漏。

站群互链

攻略窝 · 礼包窝 · 配置窝 · 换算窝 · 算法窝 · 查文窝 · 手册窝 · 问答窝 · 全文搜 · 手册库
上一篇 置信区间与显著性:读懂实验结果的统计语言 下一篇 ROC曲线与AUC的直观理解