数据量有限时,单次划分的评估波动大。交叉验证把数据分成 K 份,轮流用其中一份做验证,其余做训练,最后取平均。结论比单次划分稳定得多。
K 的取值有讲究。常见是 5 或 10,K 越大计算成本越高,偏差越小但方差可能增大。数据特别少时可以用留一法,但计算开销要提前评估。
分层交叉验证保持每折的类别比例一致,适合不平衡数据。时间序列则要用时间序列交叉验证,保证训练数据始终早于验证数据,避免未来信息泄露。
交叉验证主要用于模型选择和调参,最终评估仍要留独立测试集。把交叉验证结果当最终性能报告,容易高估模型在真实场景的表现。