排序模型的效果很大程度上取决于特征处理。连续特征常见问题是长尾和异常值,直接输入会让梯度不稳定。常用做法是分桶离散化或做对数变换,再把桶号当类别特征嵌入。
分桶的关键是边界选择:等频分桶比等宽分桶更稳健,能保证每个桶样本量接近。边界应在训练集上统计并固化,线上推理时复用同一套边界,避免分布漂移。
类别特征面临高基数问题,比如用户 ID、物品 ID 动辄百万级。直接用 one-hot 维度爆炸,应使用嵌入层降维,并对低频类别做归并到「其他」桶,减少稀疏噪声。
类别特征的统计特征(如历史点击率)非常有效,但必须做时间截断和平滑,防止泄漏和小样本抖动。贝叶斯平滑或 Beta 先验是常用手段。
交叉特征能捕捉组合信号,但人工交叉成本高。可以用 FM、DeepFM 自动学习二阶交叉,或用特征哈希控制维度,兼顾表达力与工程可行性。