特征重要性帮助理解模型依赖哪些输入,是模型评估和Debug的常用工具。常用方法包括树模型增益重要性、排列重要性和 SHAP 值,各有适用场景和局限。
树模型的增益重要性统计特征分裂带来的误差下降,计算快但偏向高基数特征。排列重要性打乱某特征后看指标下降,更贴近模型行为,但特征相关时会低估重要性。
SHAP 值基于博弈论分配预测贡献,能给出单样本级别的解释,适合分析个案和排查异常。但计算成本较高,特征强相关时解释也可能不稳定。
特征重要性是相关性而非因果性。重要特征不一定可干预,也不一定符合业务逻辑。发现异常重要特征时要排查是否泄漏,比如某特征在预测时点根本不可用。
把特征重要性与业务知识对照,是发现问题的有效方式。若模型高度依赖一个业务上不合理的特征,往往意味着数据问题或评估偏差,值得深入检查。