真实业务数据往往类别不均衡:点击样本远少于未点击样本,转化样本更是稀少。直接在原始分布上训练,模型会倾向于预测多数类,导致对少数类的识别能力很差。
重采样是直观方法:欠采样减少多数类,过采样复制或合成少数类。过采样易过拟合,SMOTE通过插值合成新样本缓解该问题,但在高维稀疏特征上效果有限,且可能引入噪声。
重加权不改变样本本身,而是调整损失函数中各类样本的权重,使少数类获得更大关注。权重可按类别频率倒数设定,也可按业务代价设定,如漏判欺诈的代价远高于误判。
注意区分不均衡与偏差。样本权重能缓解类别频率差异,但无法纠正采样偏差或位置偏差。推荐系统的曝光偏差需要逆倾向加权等专门方法,不能简单用类别权重替代。
评估时不能只看准确率。应使用精确率、召回率、F1、AUC和PR曲线,并结合业务代价选择阈值。训练目标与评估目标、业务目标三者对齐,才是处理不均衡的正确姿势。