离线评估使用历史日志,在线评估面对真实用户反馈,二者目标一致但环境不同,背离是常态而非例外。理解背离原因才能正确使用离线指标。
离线数据是旧策略产生的,新策略若改变了曝光分布,离线样本就无法代表新策略面对的用户。这种分布偏移会让离线指标失真。
此外离线指标如AUC只衡量排序区分度,而线上还受位置偏差、界面交互和实时性影响。模型分数微小变化,可能引发完全不同的用户行为。
实践建议是离线指标用于快速筛选和回归检测,最终决策依赖在线AB实验。建立离线与在线的相关性监控,能帮助识别指标体系的漂移。
离线评估使用历史日志,在线评估面对真实用户反馈,二者目标一致但环境不同,背离是常态而非例外。理解背离原因才能正确使用离线指标。
离线数据是旧策略产生的,新策略若改变了曝光分布,离线样本就无法代表新策略面对的用户。这种分布偏移会让离线指标失真。
此外离线指标如AUC只衡量排序区分度,而线上还受位置偏差、界面交互和实时性影响。模型分数微小变化,可能引发完全不同的用户行为。
实践建议是离线指标用于快速筛选和回归检测,最终决策依赖在线AB实验。建立离线与在线的相关性监控,能帮助识别指标体系的漂移。