简介:这份资源是斯坦福大学Stefan Wager撰写的《Causal Inference: A Statistical Learning Approach》2024年9月草稿版,面向数据科学、统计学、经济学与公共政策领域的学生和研究者,帮助其用统计学习方法系统理解因果关系。全书从随机对照试验的差异均值估计与回归调整讲起,依次覆盖无混淆性与倾向得分、双重稳健方法与双重机器学习、异质处理效应、政策学习、自适应实验、平衡估计器及回归断点设计,并延伸至内生处理、工具变量、局部平均处理效应与溢出干扰等专题,目录结构完整、理论与方法并重。资源包为1个PDF文件,大小约1.66MB,轻量便携,适合打印或平板阅读。目前已有2003人学习下载,可作为因果推断课程教材或研究参考,帮助读者建立从实验设计到复杂观测数据分析的完整方法框架。
1. 因果推断:为什么随机化能让你“看见”那个从未发生的反事实
一个受试者吃了药,康复了。药有效吗?这个问题听起来简单,却卡了统计学整整一个世纪。原因在于:你永远只能观察到他在“吃药”和“不吃药”两种状态中的一种,另一个结果是彻底不可见的反事实。因果推断的全部技术大厦,就建立在如何用可观测数据去逼近这个不可观测量之上。斯坦福2024年的这份《Causal Inference: A Statistical Learning Approach》草稿,把这条从随机对照试验一路延伸到政策学习、干扰效应和动态决策的完整链路拆成了16章。搞懂它的价值不在于多背几个估计量公式,而在于你能分清:什么时候一个差异均值就够用,什么时候你必须上双重稳健估计,以及为什么有些场景下你连“平均处理效应”这个目标本身都得重新定义。数据科学里那些“相关不等于因果”的老生常谈,在这份材料里被替换成了可计算、可推断、可证伪的具体机制。
2. 潜在结果框架:差异均值估计为什么在有限样本下就无偏
2.1 潜在结果与因果效应的定义困境
整本书的记号体系建立在Neyman–Rubin潜在结果模型上。对每个个体 $i$,定义两个潜在结果 $Y_i(1)$ 和 $Y_i(0)$,分别对应接受处理和不接受处理时的结果。个体因果效应是 $\Delta_i = Y_i(1) - Y_i(0)$。问题在于,你只能观测到 $Y_i = Y_i(W_i)$,其中 $W_i \in {0,1}$ 是实际分配的处理。另一个潜在结果永远缺失。
这个缺失不是随机缺失,而是结构性缺失——你不可能同时对同一个人既给药又不给药。所以 $\Delta_i$ 本身是不可识别的。但随机化让你能识别 $\Delta_i$ 的某些聚合量,比如样本平均处理效应 $\bar{\Delta} = \frac{1}{n}\sum_{i=1}^n (Y_i(1) - Y_i(0))$。这里的关键假设是SUTVA(稳定单位处理值假设):个体的结果只依赖于自己的处理分配,不受他人处理状态影响。医学试验里这个假设通常成立,但社交网络、市场均衡、流行病干预等场景下它会直接崩掉——书里第11、12章专门处理这种干扰。
2.2 差异均值估计的无偏性证明链条
最简单的估计量是差异均值:
$$ \hat{\tau}{DM} = \frac{1}{n_1}\sum{W_i=1} Y_i - \frac{1}{n_0}\sum_{W_i=0} Y_i $$
其中 $n_1$ 和 $n_0$ 分别是处理组和对照组的样本量。书里定理1.1给出了一个很强的结论:在SUTVA和完全随机化假设下,$\hat{\tau}_{DM}$ 是SATE的有限样本无偏估计,不需要任何分布假设。
证明的核心步骤值得逐行看。以处理组均值为例:
$$ E\left[\frac{1}{n_1}\sum_{i=1}^n W_i Y_i \mid {Y_i(0),Y_i(1)}, n_1\right] = \frac{1}{n_1}\sum_{i=1}^n Y_i(1) E[W_i \mid \cdot] = \frac{1}{n}\sum_{i=1}^n Y_i(1) $$
第一步用了SUTVA把 $W_i Y_i$ 替换成 $W_i Y_i(1)$;第二步用了随机分配的性质 $E[W_i] = n_1/n$。对照组同理。两式相减,期望恰好等于SATE。这个推导里没有任何关于 $Y_i(w)$ 分布的假设,也没有大样本近似——它是精确的有限样本结论。
提示:这个无偏性依赖于“处理组和对照组来自同一个潜在结果池子”这一随机化事实。如果分配机制跟潜在结果相关(比如医生把更重的病人分到处理组),无偏性立刻失效。观察性研究的所有花招,本质上都是在试图重建这个条件。
2.3 从无偏到推断:中心极限定理与方差估计
无偏性只告诉你估计量的期望对,不告诉你单次估计离真值有多远。书里定理1.2补上了这块:在Bernoulli试验(每个个体独立以概率 $\pi$ 接受处理)和潜在结果独立同分布从某个总体抽样的假设下,
$$ \sqrt{n}(\hat{\tau}{DM} - \tau) \Rightarrow N(0, V{DM}), \quad V_{DM} = \frac{\text{Var}[Y_i(0)]}{1-\pi} + \frac{\text{Var}[Y_i(1)]}{\pi} $$
方差估计用插件法:
$$ \hat{V}{DM} = \frac{n}{n_0^2}\sum{W_i=0}\left(Y_i - \bar{Y}0\right)^2 + \frac{n}{n_1^2}\sum{W_i=1}\left(Y_i - \bar{Y}_1\right)^2 $$
这里有个容易翻车的细节:分母是 $n_0^2$ 和 $n_1^2$,不是 $n_0(n_0-1)$。因为这是对总体方差的插件估计,用的是组内样本方差的有偏版本(除以 $n_w$ 而非 $n_w-1$),再乘以 $n/n_w^2$ 的缩放因子。很多统计软件默认输出的是另一种形式,混用时置信区间会偏窄。
书里用了一个真实案例:2008年某州通过抽签分配医疗补助申请资格,约9万人参与,随机选出约3.5万人允许申请。差异均值估计在这个场景下对“被允许申请”的平均效应是无偏的,无论这9万人是怎么来的。但如果要推断到更大的人群,就需要额外的独立抽样假设。这个区分——有限样本无偏 vs 总体渐近推断——是书里反复强调的层次感。
3. 无混淆性与倾向得分:观察性研究怎么“伪造”一个随机试验
3.1 分层估计:把混杂变量切成同质的小格子
当处理分配不是随机的时候,差异均值估计的偏差来源是处理组和对照组的协变量分布不同。无混淆性假设(unconfoundedness)说的是:给定协变量 $X_i$,处理分配和潜在结果独立,即 ${Y_i(0),Y_i(1)} \perp W_i \mid X_i$。在这个假设下,你可以把样本按 $X$ 分层,在每层内部做差异均值,再按层权重聚合:
$$ \hat{\tau}{strat} = \sum{k=1}^K \frac{n_k}{n}\left(\bar{Y}{k,1} - \bar{Y}{k,0}\right) $$
其中 $n_k$ 是第 $k$ 层的样本量。这个估计量在每层内部是无偏的,聚合后对总体ATE无偏。问题在于维度灾难:如果 $X$ 有10个连续变量,哪怕每个只切5个格子,也有 $5^{10}$ 约一千万层,每层里可能一个样本都没有。分层估计在实践中几乎只在 $X$ 维度很低或离散时可用。
3.2 倾向得分:把高维协变量压成一个标量
Rosenbaum和Rubin的洞察是:不需要在 $X$ 的所有维度上平衡,只需要在倾向得分 $e(X) = P(W=1 \mid X)$ 上平衡就够了。书里给出的核心性质是:在无混淆性下,给定 $e(X)$,处理分配和潜在结果独立。这意味着你可以按倾向得分分层,而不是按原始 $X$ 分层。
倾向得分通常用逻辑回归或更灵活的模型估计。书里提醒了一个常见误区:倾向得分模型的目标不是预测 $W$ 准,而是让 $e(X)$ 的条件分布在对处理组和对照组之间平衡。一个预测精度很高但极端值很多的倾向得分模型,反而会让逆概率加权估计的方差爆炸。
3.3 逆倾向加权:用权重重建伪总体
逆倾向加权(IPW)估计量是:
$$ \hat{\tau}{IPW} = \frac{1}{n}\sum{i=1}^n \frac{W_i Y_i}{\hat{e}(X_i)} - \frac{1}{n}\sum_{i=1}^n \frac{(1-W_i)Y_i}{1-\hat{e}(X_i)} $$
直觉是:一个倾向得分很低的个体如果居然被处理了,说明他代表了很多类似的人,所以给他更大的权重。加权后的处理组和对照组在协变量分布上近似于整个样本。
但IPW有个血泪教训:当 $\hat{e}(X_i)$ 接近0或1时,权重会爆炸。书里在第7章“平衡估计器”里专门处理这个问题——协变量平衡倾向得分通过直接优化权重使协变量矩匹配,而不是依赖倾向得分模型的正确设定。这是从“模型正确”到“平衡性质”的设计哲学转变:与其赌倾向得分模型设定对,不如直接约束加权后的协变量分布。
4. 双重稳健与双重机器学习:当两个模型都错的时候会发生什么
4.1 双重稳健估计的结构
双重稳健(doubly robust)估计量把结果回归模型和倾向得分模型组合起来:
$$ \hat{\tau}{DR} = \frac{1}{n}\sum{i=1}^n \left[\frac{W_i Y_i}{\hat{e}(X_i)} - \frac{(W_i - \hat{e}(X_i))}{\hat{e}(X_i)}\hat{m}_1(X_i)\right] - \left[\frac{(1-W_i)Y_i}{1-\hat{e}(X_i)} + \frac{(W_i - \hat{e}(X_i))}{1-\hat{e}(X_i)}\hat{m}_0(X_i)\right] $$
其中 $\hat{m}_w(X_i)$ 是结果回归模型。这个估计量的性质是:只要倾向得分模型和结果回归模型有一个是对的,估计量就一致。书里给出了详细的影响函数推导,说明这个“双重稳健”不是巧合,而是半参数效率界的一个实现。
但这里有个容易被忽略的细节:双重稳健性在有限样本下可能被“双重偏差”抵消。如果两个模型都错,偏差可能比单独用任何一个都大。书里在第3章用模拟和理论说明了这个现象,并引向双重机器学习(DML)的动机。
4.2 双重机器学习:正交化与交叉拟合
DML的核心操作是Neyman正交性:构造一个矩条件,使得结果模型和倾向得分模型的局部误差对估计量的影响是二阶的。具体做法是用残差回归:
$$ \hat{\tau}{DML} = \frac{1}{n}\sum{i=1}^n \left(\frac{W_i - \hat{e}(X_i)}{\hat{e}(X_i)(1-\hat{e}(X_i))}\right)\left(Y_i - \hat{m}_{W_i}(X_i)\right) + \text{校正项} $$
书里第3.1节的推导显示,这个估计量对两个 nuisance 模型的收敛速度要求是 $o(n^{-1/4})$,而不是 $o(n^{-1/2})$。这意味着你可以用随机森林、梯度提升、神经网络这些收敛较慢的机器学习方法估计 nuisance 函数,仍然得到 $\sqrt{n}$ 一致的因果效应估计。
交叉拟合(cross-fitting)是另一个关键设计:把样本分成 $K$ 折,用其他折估计 nuisance 函数,在当前折上计算残差。这打破了 nuisance 估计误差和残差之间的相关性,是DML理论保证成立的必要条件。书里明确说了,不做交叉拟合的DML在有限样本下会有不可忽略的偏差。
4.3 效率界与估计量的最优性
书里第3.2节给出了无混淆性下的半参数效率界。在非参数模型下,ATE的有效影响函数是:
$$ \psi(Y, W, X) = \frac{W(Y - m_1(X))}{e(X)} - \frac{(1-W)(Y - m_0(X))}{1-e(X)} + m_1(X) - m_0(X) - \tau $$
任何正则估计量的渐近方差都不可能低于这个影响函数的方差。DML和AIPW(增广逆概率加权)在一定条件下达到这个界。这个结果的意义在于:它告诉你“没有免费午餐”——在非参数假设下,你不可能找到一个比这个界更精确的估计量。书里用这个界来对比不同估计量的效率损失,比如IPW在倾向得分极端时的方差膨胀。
5. 异质处理效应与政策学习:从“平均有效”到“对谁有效”
5.1 半参数建模与异质性损失函数
当处理效应随协变量变化时,目标从ATE变成条件平均处理效应 $\tau(x) = E[Y_i(1)-Y_i(0) \mid X_i=x]$。书里第4章介绍了一种直接针对异质性的损失函数:
$$ L(\tau) = E\left[\left(Y_i - m(X_i) - (W_i - e(X_i))\tau(X_i)\right)^2\right] $$
这个损失函数的巧妙之处在于:它的最小值点就是真实的 $\tau(x)$,而且不需要知道 $m(X_i)$ 和 $e(X_i)$ 的真值——用估计值代入后,优化这个损失仍然能得到一致的 $\tau$ 估计。这为用机器学习方法(如因果森林)估计异质效应提供了理论依据。
书里特别讨论了“诚实分裂”(honest splitting)的概念:在因果森林中,用于决定分裂的样本和用于估计叶节点效应的样本要分开。否则,叶节点效应估计会有选择性偏差——你挑了效应最大的子组,再在这个子组上估计效应,当然会高估。这个坑在早期的因果树方法里普遍存在,书里用模拟展示了诚实分裂如何修正它。
5.2 政策学习:从估计效应到做决策
第5章把问题从“估计”推进到“决策”。给定一个策略 $\pi: \mathcal{X} \to {0,1}$,它根据协变量决定给谁处理。策略的价值是 $V(\pi) = E[Y_i(\pi(X_i))]$。目标是找到最大化 $V(\pi)$ 的策略。
书里给出的经验福利最大化方法是:
$$ \hat{\pi} = \arg\max_{\pi \in \Pi} \frac{1}{n}\sum_{i=1}^n \left(2\pi(X_i)-1\right) \frac{W_i Y_i}{\hat{e}(X_i)} \quad \text{或类似的增广形式} $$
这个目标函数是策略价值的IPW估计。书里讨论了策略类的复杂度控制——如果 $\Pi$ 太丰富,经验福利最大化会过拟合;如果太简单,又会欠拟合。这跟机器学习里的偏差-方差权衡是同一个结构,只是目标从预测误差换成了决策价值。
一个容易忽略的细节是:政策学习的目标函数在策略边界附近是不连续的,因为 $\pi(X_i)$ 只取0或1。书里建议用软策略或连续松弛来优化,再阈值化。这个技巧在实践里很常用,但理论保证需要额外条件。
6. 自适应实验与干扰效应:当随机化本身变得复杂
6.1 低遗憾数据收集与自适应推断
第6章处理一个现实问题:在实验进行中,你根据累积数据调整分配概率,把更多样本分给表现更好的处理。这叫自适应实验或多臂老虎机。好处是遗憾低——你不会在明显更差的处理上浪费太多样本。坏处是标准的推断方法失效了:因为分配概率依赖于历史数据,处理分配不再是独立的,差异均值估计可能有偏。
书里给出的解决方案是:在自适应收集之后,用基于鞅的方法或重新加权来构造有效的置信区间。核心思想是构造一个鞅过程,使得在任意停止时间下都有有效的推断。书里第6.2节给出了具体的置信序列构造,并讨论了它与固定样本推断的效率损失。
6.2 干扰效应:当SUTVA不成立
第11、12章处理SUTVA失效的场景。在社交网络中,一个人的结果可能受朋友的处理状态影响;在市场中,一个卖家的定价影响另一个卖家的销量。书里引入暴露映射(exposure mapping)的概念:把个体的处理分配向量 $W$ 映射到一个暴露变量 $E_i = f(W, i)$,然后定义暴露效应 $\tau(e) = E[Y_i(e)]$。
推断的难点在于:暴露变量之间不独立,因为共享同一个网络。书里介绍了置换检验和有限样本方法,利用随机化分配的已知机制来构造精确的 $p$ 值,而不依赖渐近正态近似。第12章进一步给出了暴露效应的置信区间构造,核心是用网络结构来界定暴露变量之间的相关性。
6.3 事件研究、双重差分与合成控制
第13章把观察性研究的时间维度拉进来。双重差分(DiD)的经典设定是:处理组和对照组在处理前有平行趋势,处理后差异的变化就是处理效应。书里讨论了平行趋势假设的检验和敏感性分析,以及当平行趋势不成立时的合成控制方法——用对照组的加权组合来构造一个“合成处理组”,使得处理前轨迹匹配。
合成控制的关键步骤是求解权重:
$$ \hat{w} = \arg\min_{w \in \Delta}\left|X_1 - X_0 w\right|_V $$
其中 $X_1$ 是处理组的处理前协变量,$X_0$ 是对照组的,$w$ 在单纯形上。书里讨论了 $V$ 的选择和推断问题——合成控制的置信区间不能直接用标准方法,因为权重是估计出来的。置换检验(把每个对照组单位假装成处理组,看效应分布)是书里推荐的推断方式。
7. 避坑与排查:因果推断里那些让你结论翻车的细节
7.1 倾向得分极端值导致IPW方差爆炸
现象:IPW估计的置信区间宽得离谱,或者点估计在不同随机种子下跳变很大。
原因:某些个体的倾向得分接近0或1,导致权重 $1/\hat{e}(X_i)$ 或 $1/(1-\hat{e}(X_i))$ 极大。这些个体对估计量的贡献不成比例,方差被少数几个点主导。
解决:检查倾向得分的分布,如果存在大量极端值,考虑截断权重(如把权重限制在1%和99%分位数)、使用稳定化权重(乘以边际处理概率),或者换用协变量平衡倾向得分(第7章)直接优化平衡而不是拟合倾向得分模型。
7.2 双重稳健估计的“双重偏差”
现象:AIPW或DML估计的结果跟IPW和结果回归单独估计的结果都差很远,而且方向不一致。
原因:两个 nuisance 模型都设定错误,且误差方向相同,导致偏差叠加而不是抵消。双重稳健性只在“至少一个模型正确”时保证一致性,有限样本下两个都错时可能比单个模型更糟。
解决:分别检查倾向得分模型和结果回归模型的拟合诊断(如协变量平衡表、残差图)。如果两个模型都不可信,考虑用交叉拟合的DML并报告敏感性分析,或者退回到设计阶段——检查是否有未测量的混杂变量。
7.3 因果森林不做诚实分裂导致效应高估
现象:估计出的异质效应在叶节点上普遍偏大,尤其是样本量小的子组。
原因:用同一批数据既选择分裂变量又估计叶节点效应,产生了选择性偏差——你挑的是效应看起来最大的分裂,再在这个分裂上估计,当然高估。
解决:使用诚实分裂(honest splitting),把样本分成结构样本和估计样本。结构样本决定树的结构,估计样本计算叶节点效应。书里第4章的模拟显示,不做诚实分裂的因果森林在零效应场景下也会报告出显著的正效应。
7.4 自适应实验后用固定样本置信区间
现象:自适应收集数据后,标准置信区间的覆盖率远低于名义水平(比如95%区间实际只覆盖80%)。
原因:自适应分配使得处理分配依赖于历史数据,破坏了独立性假设。固定样本的中心极限定理不再适用,因为样本量本身是随机的且依赖于数据。
解决:使用基于鞅的置信序列或always-valid推断方法(第6.2节)。这些方法在任意停止时间下都有有效覆盖率,代价是区间比固定样本方法宽。如果必须用固定样本方法,需要在分析时考虑分配机制,用逆概率加权或重新加权来校正。
7.5 干扰场景下忽略网络结构做标准推断
现象:在社交网络或市场数据中,处理效应的置信区间过窄,$p$ 值过小,结论过于乐观。
原因:SUTVA不成立,个体结果之间存在相关性。标准方差估计假设个体独立,低估了真实方差。
解决:使用暴露映射定义暴露效应,用置换检验或基于网络结构的方差估计(第11、12章)。如果网络结构未知,考虑用聚类稳健方差或空间相关模型作为近似,并报告敏感性分析。
8. 设计取舍:为什么这本书把“估计”和“决策”放在同一条链上
这份草稿最值得琢磨的地方,是它没有把因果推断写成“一堆估计量的目录”,而是按“识别策略 → 估计方法 → 推断保证 → 决策应用”的链条组织。第1到3章建立随机化和无混淆性下的基础估计理论,第4到5章把目标从平均效应推进到异质效应和政策价值,第6到8章处理自适应、干扰和断点这些“随机化不完美”的场景,第9到15章则进入内生性、工具变量、动态策略和马尔可夫决策过程。
这个结构背后有一个明确的设计取舍:书里始终把“影响函数”和“效率界”作为贯穿线索。差异均值的影响函数、IPW的影响函数、AIPW的影响函数、DML的正交矩条件,都是同一个半参数理论框架的不同实例。理解了影响函数,你就能自己推导一个新场景下的有效估计量,而不是背公式。书里第3.2节的效率界推导是整本书的技术枢纽——它告诉你为什么某些估计量是“最优”的,以及最优的代价是什么。
另一个取舍是有限样本性质 vs 渐近性质的平衡。第1章花了不少篇幅证明差异均值的有限样本无偏性,但后面的章节大多依赖渐近正态性。书里在每章末尾的文献注记里反复提醒:渐近保证在样本量不够、倾向得分极端、网络相关性强的时候可能失效。这种“知道边界在哪”的态度,比任何一个具体估计量都更有价值。
我自己的习惯是:每次拿到一个因果推断问题,先不急着选估计量,而是先画一张表——处理分配机制是什么、SUTVA成立吗、无混淆性可信吗、样本量够支撑渐近近似吗、目标是ATE还是策略价值。这张表填完,估计量的选择往往就只剩一两个候选了。书里第16章的习题也是按这个逻辑设计的,每道题都先让你判断识别策略,再推导估计量。
从那以后我每次跑因果推断之前,都强制自己先写清楚识别假设和失效场景,再碰数据。这份草稿的价值不在于它给了你多少现成公式,而在于它把每个公式背后的“为什么能 work”和“什么时候不 work”都摊开了。希望帮到你。
本文还有配套的精品资源,点击获取