算法团队常遇到困惑:离线指标提升明显,上线后线上指标却纹丝不动甚至下降。离线与在线之间的鸿沟是推荐系统落地的核心难题,理解其成因才能有效弥合。
鸿沟来源之一是分布差异。离线数据由旧策略产生,新模型评估时面对的是旧策略的曝光分布,而线上新模型会改变曝光分布,形成反馈回路。离线无法模拟这种策略与环境互动。
其二是指标差异。离线常用AUC、NDCG等排序指标,线上关注点击率、停留时长、转化率等业务指标。二者相关性有限,排序变好不必然带来业务收益。
其三是特征与工程差异。离线特征可能与线上不一致,实时特征在离线难以精确复现,特征穿越问题在离线评估中不易暴露。训练服务一致性问题会直接侵蚀线上效果。
弥合鸿沟的方向包括:使用反事实评估和逆倾向加权做无偏离线评估、构建线上回放环境模拟策略交互、在离线阶段就引入业务指标代理、以及建立离线指标与线上收益的历史相关性映射。最终仍须以在线AB为准。