过拟合指模型在训练集上表现很好,在未见数据上却明显变差。原因通常是模型过于复杂或训练数据太少,把噪声也当成规律学了进去。
欠拟合则是模型太简单,连训练集的基本规律都没学到。特征不足、模型容量不够或训练不充分,都会导致这种情况。
诊断方法是划分训练集、验证集和测试集。训练误差与验证误差都高,说明欠拟合;训练误差低而验证误差高,说明过拟合。
应对过拟合可以用正则化、早停、增加数据或降低模型复杂度。应对欠拟合则要增加特征、提升模型容量。先诊断再下药,比盲目调参有效得多。
过拟合指模型在训练集上表现很好,在未见数据上却明显变差。原因通常是模型过于复杂或训练数据太少,把噪声也当成规律学了进去。
欠拟合则是模型太简单,连训练集的基本规律都没学到。特征不足、模型容量不够或训练不充分,都会导致这种情况。
诊断方法是划分训练集、验证集和测试集。训练误差与验证误差都高,说明欠拟合;训练误差低而验证误差高,说明过拟合。
应对过拟合可以用正则化、早停、增加数据或降低模型复杂度。应对欠拟合则要增加特征、提升模型容量。先诊断再下药,比盲目调参有效得多。