正则化是在损失函数里加惩罚项，限制模型参数过大，从而降低过拟合风险。L1 和 L2 是最常见的两种。
L1 倾向于产生稀疏解，可以做特征选择；L2 让参数整体偏小，训练更稳定。两者可以结合使用。
正则化强度是超参数，太强会导致欠拟合，太弱则起不到约束作用。通常通过验证集调优。
深度模型里还有 Dropout、早停和数据增强等手段，思路都是限制模型对训练数据的记忆能力。理解目的比记住名字更重要。
编辑部
3 次阅读
2026-11-04 15:55
新闻
正则化是在损失函数里加惩罚项，限制模型参数过大，从而降低过拟合风险。L1 和 L2 是最常见的两种。
L1 倾向于产生稀疏解，可以做特征选择；L2 让参数整体偏小，训练更稳定。两者可以结合使用。
正则化强度是超参数，太强会导致欠拟合，太弱则起不到约束作用。通常通过验证集调优。
深度模型里还有 Dropout、早停和数据增强等手段，思路都是限制模型对训练数据的记忆能力。理解目的比记住名字更重要。
