推荐系统面临探索与利用的权衡。利用是推用户可能喜欢的内容,探索是尝试未知选项以获取信息。只利用会陷入信息茧房,只探索会牺牲短期体验。
多臂老虎机是经典框架。每个物品是一个臂,点击是奖励,目标是在探索中最大化累积收益。UCB、Thompson 采样都是常用策略,平衡当下与未来。
实际系统常用 epsilon 贪婪或流量分桶做探索。小比例流量给新物品和新策略,大部分流量给已验证的优质内容。比例设置要结合业务阶段调整。
探索的收益是长期的。新物品需要曝光才能积累数据,新用户需要试探才能建立画像。把探索当成投资而非成本,系统才能持续进化。