探索与利用是推荐系统的核心矛盾。利用是根据已知信息推荐最可能点击的内容,探索是尝试未知内容以获取新信息。只利用会错过潜在高价值物品,只探索则牺牲短期收益。
多臂老虎机是描述这一问题的经典框架。每个物品相当于一个老虎机臂,拉动后获得奖励,目标是在有限次数内最大化总收益。核心是平衡尝试新臂和重复好臂。
Epsilon-Greedy 最简单,以固定概率随机探索,其余时间选当前最优。优点是实现容易,缺点是探索比例固定,前期探索不足,后期探索浪费。
UCB 算法给每个臂的估计值加上不确定性奖励,鼓励探索被尝试次数少的臂。Thompson 采样从每个臂的后验分布中采样,用采样值做决策,天然实现了探索与利用的平衡。
实际应用中,探索策略要结合业务约束。新品冷启动、内容生态健康都需要主动探索,但探索流量要可控,且要用实验验证探索带来的长期收益而非只看短期点击。