辛普森悖论指在分组数据中各自成立的结论,合并后却可能反转。经典例子是两种治疗方案,在每个病情分层里A的治愈率都高于B,但总体合并后B反而更高,原因是分层样本量分布不同。
在互联网数据分析中这类现象很常见。比如新版页面在每个渠道的转化率都更高,但总体转化率更低,因为新版被更多分配给了低转化渠道。渠道构成差异掩盖了真实效应。
根源在于存在混杂变量:分组变量与处理变量、结果变量都相关。当各组样本比例在处理组和对照组间不一致时,合并统计量就会被构成效应污染,得出误导性结论。
避免方法是先分层再比较,或使用标准化、加权调整、回归控制混杂变量。AB实验中的分流分层、CUPED方差缩减等技术,本质上都是在控制这类构成差异。
看到总体与分组结论矛盾时,不要急于选一个相信,而应追问分组变量是什么、各组样本比例如何、是否存在未观测的混杂因素。数据素养的核心之一就是对这种矛盾保持敏感。