推荐系统记录的用户行为并非随机产生,而是由上一版策略筛选后的曝光结果。这种选择效应会让训练数据天然带有偏差,影响模型学习。
例如某物品因历史推荐而获得大量曝光,其点击样本远多于同类物品。模型会误以为它更受欢迎,形成富者愈富的反馈循环,加剧马太效应。
缓解方法包括逆倾向加权,用曝光概率对样本重新加权,以及引入探索机制,主动给冷门物品曝光机会来收集无偏数据。
评估时也要注意,离线数据上的表现不能完全代表线上效果。只有持续监控线上分布变化,才能及时发现偏差带来的长期损害。
推荐系统记录的用户行为并非随机产生,而是由上一版策略筛选后的曝光结果。这种选择效应会让训练数据天然带有偏差,影响模型学习。
例如某物品因历史推荐而获得大量曝光,其点击样本远多于同类物品。模型会误以为它更受欢迎,形成富者愈富的反馈循环,加剧马太效应。
缓解方法包括逆倾向加权,用曝光概率对样本重新加权,以及引入探索机制,主动给冷门物品曝光机会来收集无偏数据。
评估时也要注意,离线数据上的表现不能完全代表线上效果。只有持续监控线上分布变化,才能及时发现偏差带来的长期损害。