过拟合是模型把训练数据的噪声也学了进去,训练集表现很好,测试集一塌糊涂。欠拟合则是模型太简单,连训练集的规律都没抓住。
判断过拟合可以看训练损失和验证损失的差距,差距越大越可疑。判断欠拟合则看两者是否都偏高且接近,说明模型容量不足。
缓解过拟合的常见手段包括增加数据、正则化、早停和简化模型结构。缓解欠拟合则需要更强特征、更复杂模型或更长训练时间。
实际工作中两者往往交替出现,调参过程就是在偏差和方差之间找平衡点。没有一劳永逸的配置,只有针对当前数据的取舍。
过拟合是模型把训练数据的噪声也学了进去,训练集表现很好,测试集一塌糊涂。欠拟合则是模型太简单,连训练集的规律都没抓住。
判断过拟合可以看训练损失和验证损失的差距,差距越大越可疑。判断欠拟合则看两者是否都偏高且接近,说明模型容量不足。
缓解过拟合的常见手段包括增加数据、正则化、早停和简化模型结构。缓解欠拟合则需要更强特征、更复杂模型或更长训练时间。
实际工作中两者往往交替出现,调参过程就是在偏差和方差之间找平衡点。没有一劳永逸的配置,只有针对当前数据的取舍。