推荐系统评估指标很多,各有侧重。AUC 衡量整体排序能力,不受阈值影响,但对头部位置不敏感,且在不平衡数据下可能虚高,不能作为唯一标准。
NDCG 考虑位置折扣,越靠前命中收益越高,适合评估列表排序质量。计算需要相关性标注,二值场景可用点击作为相关。MAP 和 MRR 也常用于排序评估。
业务指标才是最终裁判:点击率、转化率、人均时长、留存、GMV。离线指标与业务指标的相关性因场景而异,需要长期积累对照数据,建立可信的映射关系。
评估要分场景分层:新老用户、不同入口、不同品类表现可能差异很大。整体指标提升可能掩盖某些人群的下降,分组评估能发现这种结构性问题。
短期指标与长期指标要平衡。提高点击率可能损害留存,评估体系应包含护栏指标和长期观察窗,避免为了短期数字牺牲用户价值。