某本地生活平台2023年8月看“人均下单金额”均值是86元,环比涨4%,团队据此加大了高客单商家补贴。两周后GMV反而降了1.7%。拆开看:中位数从62元降到58元,均值上涨来自0.3%的订单超过2000元,主要是3家高端餐厅的企业团单。
第一个误判:用均值代表典型用户。正确做法是同时看P50、P90和均值。该平台P50为58元、P90为168元、均值为86元,说明分布右偏严重。补贴应投向P50附近的价格带,也就是39-79元,而不是200元以上。
第二个误判:辛普森悖论。按城市分层看,A类城市(一线)转化率从12.1%降到11.8%,B类城市(二线)从9.4%升到10.2%,总体转化率却从10.6%升到10.9%,原因是B类城市订单占比从38%升到47%。总体涨、分层跌,结论完全反了。
第三个误判:幸存者偏差。统计“7日留存”时只取了完成注册的用户,忽略了注册流程中被卡住的14%用户。补上这部分后,真实留存从34%降到29%。这14%用户里,62%卡在短信验证码环节,平均等待时间47秒。
对比两种统计口径。口径A:全量用户、按自然日、含退款。口径B:活跃用户、按滚动7日、剔除退款。同一业务动作,A口径下GMV涨2.1%,B口径下涨0.4%。对外汇报用A,内部决策用B,两者都要标注清楚,否则下次复盘对不上账。
概率上,小样本比例要谨慎。某功能灰度只覆盖了1200人,点击率从5.0%到5.6%,看似涨12%,但95%置信区间是[4.4%, 6.9%],跨过0。扩到1.2万人后,点击率稳定在5.2%,真实提升只有4%。样本量估算:要检出4%的相对提升,α=0.05、β=0.2,每组至少需要约1.6万人。
一份可用的周报检查项:1)均值、中位数、P90三个数并列;2)按2-3个维度分层,看方向是否一致;3)标注样本量和置信区间;4)注明是否含退款和作弊订单;5)对比上周同口径。5项齐全再发,能减少大半误判。