过拟合是模型把训练数据的噪声也学进去了,表现为训练集指标远好于验证集。特征太多、模型太复杂、样本太少都会加剧过拟合。
正则化是主要对策。L2 正则抑制权重过大,L1 正则产生稀疏解顺带做特征选择。深度模型还有 Dropout、早停、数据增强等手段。
验证集要独立且有代表性。用训练集调参再在训练集评估,等于自欺欺人。交叉验证能更稳地估计泛化能力,但时序数据要用时间序列交叉验证。
线上效果差不一定都是过拟合。特征口径不一致、样本偏差、数据漂移也会导致同样现象。先排查工程问题,再怀疑模型复杂度。
过拟合是模型把训练数据的噪声也学进去了,表现为训练集指标远好于验证集。特征太多、模型太复杂、样本太少都会加剧过拟合。
正则化是主要对策。L2 正则抑制权重过大,L1 正则产生稀疏解顺带做特征选择。深度模型还有 Dropout、早停、数据增强等手段。
验证集要独立且有代表性。用训练集调参再在训练集评估,等于自欺欺人。交叉验证能更稳地估计泛化能力,但时序数据要用时间序列交叉验证。
线上效果差不一定都是过拟合。特征口径不一致、样本偏差、数据漂移也会导致同样现象。先排查工程问题,再怀疑模型复杂度。