点击率预估模型输出0.3,实际该人群点击率只有0.12,这叫校准偏差。排序只看相对顺序时偏差影响不大,但涉及竞价、预算分配、多目标融合时,校准直接决定收益。
技巧1:分桶看校准曲线。把预估值分成10个桶(0-0.1、0.1-0.2……),每桶对比预估均值与真实点击率。某信息流模型在高分段(0.5以上)系统性高估1.8倍,低分段低估0.7倍,典型S型偏差。
技巧2:保序回归做后校准。在验证集上拟合分段常数函数,保证单调性。相比Platt scaling(逻辑回归校准),保序回归不假设函数形式,适合S型偏差。实测校准后ECE(期望校准误差)从0.041降到0.009。
技巧3:负采样后的概率还原。训练时负样本保留25%,模型输出的p是采样空间的概率。还原公式p_real = p/(p + (1-p)/0.25)。某团队忘了还原,竞价出价整体偏低约30%,GMV损失明显。
技巧4:按场景分开校准。首页推荐和搜索推荐的点击率基线差3倍,混在一起校准会互相拖累。做法是场景ID作为特征进入校准层,或每个场景单独拟合校准参数。某电商分场景校准后,首页ECE降62%,搜索降38%。
技巧5:时间衰减与在线更新。校准参数用最近7天数据拟合,超过14天参数漂移明显。节假日期间点击率整体上浮20%-40%,需单独建模。做法是每天凌晨用前7天数据重拟合,保留两套参数做A/B。
一个案例:某应用商店用未校准模型做应用排序,高预估应用被过度曝光,实际下载转化率仅0.9%,低于均值的1.4%。加保序回归校准后,高分段曝光占比从22%降到14%,整体下载转化率升到1.6%,人均下载量增9%。
常见错误清单:用训练集拟合校准参数(过拟合,应用验证集);忽略样本权重(加权样本校准要用加权分桶);校准后不重算指标(AUC不变但logloss会变,需重新记录基线);多目标融合时只校准主目标(其余目标偏差会传导)。建议每两周做一次校准审计,记录ECE和分桶偏差表。