推荐模型训练用的是曝光日志,而曝光由上一版模型决定。这意味训练数据只覆盖了旧模型认为不错的内容,未曝光的内容永远缺少反馈。
这种位置偏差和选择偏差会形成马太效应:热门内容越推越热,长尾内容越没机会。模型学到的“用户偏好”其实是被旧策略塑造出来的假象。
常见的缓解手段包括逆倾向加权,用曝光概率对样本加权,让稀有曝光获得更高权重;也可以用随机流量做探索,主动收集未曝光内容的反馈。
另一个隐蔽问题是幸存者偏差。只统计点击样本会忽略大量未点击曝光,导致模型高估用户兴趣强度,排序分数整体偏高。
做离线评估时要意识到评估数据本身有偏。用随机实验流量构建评估集,得到的结论才更可信,否则只是在旧策略的圈子里自我验证。