模型只在见过的数据上学习,如果训练样本不能代表真实分布,线上效果必然打折。这就是样本偏差。
常见来源包括曝光偏差、选择偏差和位置偏差。推荐系统里,用户只能点击被展示的内容,未展示的永远没有标签。
位置偏差尤其隐蔽,排在前面的内容天然获得更多点击。可以用点击模型或逆倾向加权来校正。
做评估时要问:评估数据的分布和线上是否一致。不一致的话,离线指标再漂亮也只能参考。
模型只在见过的数据上学习,如果训练样本不能代表真实分布,线上效果必然打折。这就是样本偏差。
常见来源包括曝光偏差、选择偏差和位置偏差。推荐系统里,用户只能点击被展示的内容,未展示的永远没有标签。
位置偏差尤其隐蔽,排在前面的内容天然获得更多点击。可以用点击模型或逆倾向加权来校正。
做评估时要问:评估数据的分布和线上是否一致。不一致的话,离线指标再漂亮也只能参考。