真实数据常有缺失、重复、异常值和格式错误。直接拿来训练,模型学到的可能是噪声而不是规律。
缺失值要区分随机缺失和系统性缺失,前者可以填充,后者往往本身携带信息。填充方式也要记录,避免评估时失真。
异常值不一定都是错误,可能是真实的长尾行为。处理前先搞清业务含义,盲目截断会损失重要信号。
清洗流程要可复现,每一步变换都应有日志。数据版本管理做不好,实验结果就无法复现,团队协作会陷入混乱。
真实数据常有缺失、重复、异常值和格式错误。直接拿来训练,模型学到的可能是噪声而不是规律。
缺失值要区分随机缺失和系统性缺失,前者可以填充,后者往往本身携带信息。填充方式也要记录,避免评估时失真。
异常值不一定都是错误,可能是真实的长尾行为。处理前先搞清业务含义,盲目截断会损失重要信号。
清洗流程要可复现,每一步变换都应有日志。数据版本管理做不好,实验结果就无法复现,团队协作会陷入混乱。