很多建模任务里,特征质量的提升比换模型更有效。原始数据往往不能直接喂给模型,需要经过清洗、变换和组合。
数值特征要做缺失值处理和异常值处理,必要时做对数变换或分桶,降低偏态和极端值的影响。不同量纲的特征还要标准化,避免模型被大数值主导。
类别特征常用独热编码或目标编码。高基数类别直接独热会带来维度爆炸,目标编码更紧凑,但要注意用交叉验证方式构造,防止标签泄漏。
时间特征值得重视。小时、星期、距上次行为的天数、滑动窗口统计量,往往比原始时间戳更有信息量。
特征工程的核心是理解业务和数据的生成过程,让模型更容易学到规律,而不是盲目堆特征数量。