站群导航· 游戏攻略 / 礼包码 / 配置 / 换算 / 查询 / 手册
导航菜单
首页 全部文章 留言本

过拟合与正则化:模型为什么离线好线上差

过拟合是模型把训练数据的噪声也学进去了,表现为训练集指标远好于验证集。特征太多、模型太复杂、样本太少都会加剧过拟合。

正则化是主要对策。L2 正则抑制权重过大,L1 正则产生稀疏解顺带做特征选择。深度模型还有 Dropout、早停、数据增强等手段。

验证集要独立且有代表性。用训练集调参再在训练集评估,等于自欺欺人。交叉验证能更稳地估计泛化能力,但时序数据要用时间序列交叉验证。

线上效果差不一定都是过拟合。特征口径不一致、样本偏差、数据漂移也会导致同样现象。先排查工程问题,再怀疑模型复杂度。

站群互链

攻略窝 · 礼包窝 · 配置窝 · 换算窝 · 算法窝 · 查文窝 · 手册窝 · 问答窝 · 全文搜 · 手册库
上一篇 小团队也能做的数据驱动决策 下一篇 从准确率到业务价值:评估体系怎么搭