1.1 子集内生性检验的定义

在某些情况下，我们可能只希望检验变量子集的内生性。在Card邻近性例子中，我们可能希望分别检验教育的外生性，而不包括经验及其平方项。为了执行子集内生性检验，将回归变量分为三组是很有用的，这样结构模型为：

如前所述，工具变量向量包含。向量被视为内生的，被视为潜在内生的。要检验的假设是是外生的，即对。

1.2 子集内生性检验的原理

在同方差性条件下，可以通过Durbin-Wu-Hausman原理构建一个直接的检验。在下，适当的估计量是使用工具变量的2SLS。设的这个估计量为。在下，适当的估计量是使用较小工具变量集的2SLS。设的这个估计量为。

1.3 子集内生性检验的统计量计算方法

对的Durbin-Wu-Hausman统计量为：

在下的渐近分布是，其中，因此如果超过分布的上临界值，我们就拒绝变量是外生的假设。

除了使用Wald统计量外，还可以通过除以并使用分布作为临界值来使用检验的版本。然而，这种修改没有有限样本的合理性，因为在原假设下是内生的。

在Stata中，在ivregress后使用estat endogenous命令（添加变量名来指定要检验外生性的变量）而不使用稳健协方差选项，会报告这个统计量的版本作为”Wu-Hausman F”。例如，在Card邻近性例子中使用四个工具变量public、private、age和，如果我们用非稳健协方差矩阵通过2SLS估计方程，然后计算教育的内生性检验，我们发现，p值为，但如果我们计算经验和其平方的检验，我们发现，p值为。在这个模型中，同质系数外生性假设被拒绝用于教育，但经验的结果是不明确的。

异方差性或聚类稳健检验不能通过Durbin-Wu-Hausman方法轻易构建，因为协方差矩阵不采用简单形式。为了允许非同方差误差，建议使用GMM估计。参见第13.24节。

2.1 准备R环境

首先，加载相关R包。

本文复现使用的R脚本文件和数据集下载链接：

• R脚本文件：code-endogeneity-subset.R
• Card数据集：Card1995.dta

2.2 数据准备和模型设定

本节采用Card (1995)数据，依变量为lwage（对数工资），潜在内生变量集合拆分为三部分： X1 = (black, south, urban)为外生协变量；X2 = (edu)为待检验是否外生的变量；X3 = (exp, exp2)为已知内生变量。工具变量集合为Z = (X1, public, private, age, age2)，并按理论要求包含X1。

在同方差情形下，根据Durbin–Wu–Hausman原理，比较两种2SLS设定：

1. 在原假设 下，教育edu被视为外生，采用工具集合进行2SLS估计，得到。

2. 在备择假设 下，教育edu被视为内生，采用较小的工具集合进行2SLS估计，得到。

据此构造统计量（见下节公式），并以分布进行判别。

为便于复现实证，本文同时报告三组估计：

Call:
ivreg(formula = formula_baseline, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.92063 -0.27218  0.02074  0.28186  1.43044 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.74815    0.48338   7.754 1.21e-14 ***
black       -0.06403    0.06301  -1.016 0.309610    
south       -0.08573    0.02563  -3.345 0.000834 ***
urban        0.08348    0.04125   2.024 0.043073 *  
edu          0.15969    0.04090   3.904 9.65e-05 ***
exp          0.04703    0.02502   1.880 0.060213 .  
exp2        -0.03225    0.12811  -0.252 0.801255    

Diagnostic tests:
                         df1  df2 statistic  p-value    
Weak instruments (edu)     4 3002     8.648 6.15e-07 ***
Weak instruments (exp)     4 3002  1215.976  < 2e-16 ***
Weak instruments (exp2)    4 3002  1113.772  < 2e-16 ***
Wu-Hausman                 2 3001     2.977   0.0511 .  
Sargan                     1   NA     0.524   0.4692    
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4327 on 3003 degrees of freedom
Multiple R-Squared: 0.05111,    Adjusted R-squared: 0.04921 
Wald test: 129.7 on 6 and 3003 DF,  p-value: < 2.2e-16 

Call:
ivreg(formula = formula_H0, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.59742 -0.22262  0.02012  0.24224  1.33017 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept)  4.741658   0.090683  52.288  < 2e-16 ***
black       -0.189569   0.017633 -10.751  < 2e-16 ***
south       -0.125048   0.015184  -8.235 2.64e-16 ***
urban        0.161571   0.015613  10.348  < 2e-16 ***
edu          0.074000   0.003506  21.106  < 2e-16 ***
exp          0.081626   0.016313   5.004 5.95e-07 ***
exp2        -0.214118   0.081811  -2.617  0.00891 ** 

Diagnostic tests:
                         df1  df2 statistic p-value    
Weak instruments (exp)     4 3001 1.214e+29  <2e-16 ***
Weak instruments (exp2)    4 3001 7.482e+03  <2e-16 ***
Wu-Hausman                 1 3002 1.700e-02  0.8948    
Sargan                     2   NA 6.643e+00  0.0361 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.3742 on 3003 degrees of freedom
Multiple R-Squared: 0.2905, Adjusted R-squared: 0.2891 
Wald test: 197.8 on 6 and 3003 DF,  p-value: < 2.2e-16 

Call:
ivreg(formula = formula_H1, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.92063 -0.27218  0.02074  0.28186  1.43044 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.74815    0.48338   7.754 1.21e-14 ***
black       -0.06403    0.06301  -1.016 0.309610    
south       -0.08573    0.02563  -3.345 0.000834 ***
urban        0.08348    0.04125   2.024 0.043073 *  
edu          0.15969    0.04090   3.904 9.65e-05 ***
exp          0.04703    0.02502   1.880 0.060213 .  
exp2        -0.03225    0.12811  -0.252 0.801255    

Diagnostic tests:
                         df1  df2 statistic  p-value    
Weak instruments (edu)     4 3002     8.648 6.15e-07 ***
Weak instruments (exp)     4 3002  1215.976  < 2e-16 ***
Weak instruments (exp2)    4 3002  1113.772  < 2e-16 ***
Wu-Hausman                 2 3001     2.977   0.0511 .  
Sargan                     1   NA     0.524   0.4692    
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4327 on 3003 degrees of freedom
Multiple R-Squared: 0.05111,    Adjusted R-squared: 0.04921 
Wald test: 129.7 on 6 and 3003 DF,  p-value: < 2.2e-16 

2.3 子集内生性检验统计量与判别规则

在同方差设定下，Durbin–Wu–Hausman统计量为：

当 时，上式退化为标量：

本文对应的实证计算结果为：

• 系数差异： -0.08569；
• 估计方差差异： 0.0016605；
• 统计量： 4.422，p值：0.0355；
• 3.841， 6.635。

关于F形式统计量（将 除以 并用F分布求p值），在本应用场景下由于 在 下仍为内生，有限样本上缺乏严格依据，仅供参考： 4.422，p值：0.0356。

子集内生性检验结果解读：

• 若4.422 超过3.841或p值0.0355 小于0.05，则拒绝：教育edu为外生的假设，认为edu具有内生性；否则不能拒绝外生性假设。结合上文的Wu–Hausman F诊断与DWH统计量的结论，可对edu的外生性作出一致判断；当两者结论不一致时，应优先依据DWH在本节的同方差框架下的判别，并在实际应用中进一步考虑稳健协方差或GMM扩展（参见第13.24节）。

1.1 内生性检验的定义

内生性检验是检验回归变量是否与结构误差项相关的一种统计检验方法。在工具变量模型中，2SLS估计量允许回归变量是内生的，即与结构误差相关。如果这种相关性为零，则是外生的，结构方程可以通过最小二乘法进行估计。这是一个可检验的约束条件。

内生性检验的原假设为：

备择假设为：

其中维持假设为。由于是的一个组成部分，这意味着。因此，我们也可以将原假设写为。

1.2 内生性检验的原理

内生性检验的基本原理基于控制函数回归。回顾控制函数回归（12.59）：

注意到当且仅当，因此假设可以重新表述为对。因此，一个自然的检验是基于控制函数回归（12.28）中的Wald统计量。

在定理12.9、定理12.10和下，渐近服从个自由度的卡方分布。此外，在正态回归假设下，统计量具有精确的分布。如果（或）小于临界值，我们接受是外生的原假设；如果统计量大于临界值，我们拒绝原假设，支持是内生的假设。

1.3 Hausman T统计量的计算方法

Hausman检验是内生性检验的另一种（也是传统的）方法。在下，OLS和2SLS都是一致估计量。但在下，它们收敛到不同的值。因此，OLS和2SLS估计量之间的差异是内生性的有效检验统计量。

设为OLS估计量，为2SLS估计量。在和同方差性下，OLS估计量是Gauss-Markov有效的，因此根据Hausman等式：

其中，，。

重要说明：在构建设计矩阵时，应该包含所有外生变量，包括截距项。这是因为截距项在回归模型中是一个重要的外生变量，在2SLS估计中，外生变量（包括截距）作为自己的工具变量。

因此，的有效检验统计量为：

其中是的某个估计量。

重要说明：Hausman检验的前提条件是，即2SLS估计量的方差必须大于OLS估计量的方差。当（只有一个内生变量）时，检验统计量简化为：

在下，渐近服从分布。对于有限样本，也可以使用分布进行修正。

重要等价性：根据Hansen教材的理论，Hausman T统计量与Wald W0统计量具有等价性。具体而言：

1. Hausman T统计量：基于OLS和2SLS估计量差异的检验
2. Wald W0统计量：基于控制函数回归中残差项系数的检验

这两种方法在理论上完全等价，即：

其中是控制函数回归中残差项的系数。这种等价性为内生性检验提供了多种实现方式，但结果应该是一致的。

1.4 Wald W统计量（F形式统计量）的计算方法

Wald统计量的计算步骤如下：

首先，通过最小二乘法估计简化形式：

获得残差。然后通过最小二乘法估计控制函数：

设、和分别表示的Wald、同方差Wald和统计量。

定理12.14：在下，。设满足。检验”如果则拒绝“具有渐近水平。

定理12.15：假设。在下，。设满足。检验”如果则拒绝“具有精确水平。

由于我们通常不想强加同方差性，这些结果表明最合适的检验是使用稳健异方差协方差矩阵构造的Wald统计量。这可以在Stata中使用命令estat endogenous在ivregress之后计算，当后者使用稳健协方差选项时。Stata以形式报告Wald统计量（因此使用分布计算p值）作为”Robust regression F”。使用而不是在形式上是不合理的，但这是一个合理的有限样本调整。如果在没有稳健协方差选项的ivregress之后应用命令estat endogenous，Stata将统计量报告为”Wu-Hausman F”。

当（有一个右侧内生变量）时，这在应用中相当常见，内生性检验可以等价地表示为估计控制函数中的t统计量。因此，估计控制函数回归并检查的t统计量就足够了。如果，那么我们可以拒绝对是外生的假设。

2.1 准备R环境

首先，加载相关R包。

本文复现使用的R脚本文件和数据集下载链接：

• R脚本文件：code-endogeneity.R
• Card数据集：Card1995.dta

2.2 数据准备和模型设定

我们使用Card (1995)的数据集，该数据集包含教育回报率的相关信息。在我们的分析中：

• 被解释变量：lwage（对数工资）
• 内生变量：edu（教育年限）
• 工具变量：public（公立大学附近）和private（私立大学附近）
• 控制变量：exp（工作经验）、exp2（工作经验平方）、black（黑人）、south（南方）、urban（城市）

我们使用三种主要方法进行内生性检验，包括：Wu-Hausman F检验（设置summary函数）、控制函数回归方法（t检验、F检验、卡方检验）、Hausman检验（手动计算矩阵方法）。每种方法都基于不同的理论原理，但在理论上应该得到一致的结果。

2.3 方法1：Wu-Hausman F检验（设置summary函数）

针对TSLS拟合模型，使用summary诊断功能进行内生性检验，设置summary(fit_tsls_pp, diagnostics = TRUE)函数进行的endogeneity检验。

                 df1  df2  statistic      p-value
Weak instruments   2 3002 13.4953074 1.463030e-06
Wu-Hausman         1 3002  5.5569969 1.847081e-02
Sargan             1   NA  0.8205891 3.650080e-01

实证结果：

• Wu-Hausman F统计量: 5.557
• Wu-Hausman F检验p值: 0.0185

2.4 方法2：控制函数回归方法

控制函数回归方法通过两步程序进行内生性检验：

第一步：估计简化形式，将内生变量对工具变量和控制变量进行回归

第二步：获得残差。然后通过最小二乘法估计控制函数：

第三步：检验残差项系数的显著性。这等价于检验对。

控制方程的回归结果如下：

Call:
lm(formula = lwage ~ edu + exp + exp2 + black + south + urban + 
    edu_resid, data = control_function_data)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.60445 -0.22102  0.02106  0.24297  1.31906 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.26801    0.62540   5.225 1.86e-07 ***
edu          0.16109    0.03711   4.341 1.46e-05 ***
exp          0.11931    0.01654   7.212 6.94e-13 ***
exp2        -0.23054    0.03188  -7.232 6.01e-13 ***
black       -0.10173    0.04124  -2.467   0.0137 *  
south       -0.09504    0.01971  -4.823 1.49e-06 ***
urban        0.11645    0.02462   4.730 2.35e-06 ***
edu_resid   -0.08787    0.03727  -2.357   0.0185 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.3739 on 3002 degrees of freedom
Multiple R-squared:  0.2918,    Adjusted R-squared:  0.2902 
F-statistic: 176.7 on 7 and 3002 DF,  p-value: < 2.2e-16

其中，控制方程的残差方差为：

• 控制方程残差方差: 0.1398

2.5 方法3：Hausman检验（手动计算矩阵方法）

Hausman检验通过比较OLS和2SLS估计量的差异来检验内生性。如果变量是外生的，两种估计方法应该得到相似的结果。

理论基础：在下，OLS和2SLS都是一致估计量，但在下，它们收敛到不同的值。因此，OLS和2SLS估计量之间的差异是内生性的有效检验统计量。

检验统计量：

其中是OLS估计量，是2SLS估计量。是残差方差的估计量(可以考虑使用控制方程的残差方差估计量)。

采用矩阵方法计算得到的实证结果如下：

• OLS估计中edu系数: 0.074
• 2SLS估计中edu系数: 0.1611
• 系数差异: -0.0871
• sigma^2的估计（来自控制方程）: 0.1398
• Hausman T检验统计量: 5.557
• Hausman T检验p值: 0.0184

2.6 结果解释

1.1 过度识别检验的子集检验的定义

过度识别检验的子集检验是过度识别检验的一种特殊形式，它主要用于检验工具变量是否符合外生性假设。通常情况下，对 的检验被解释为模型设定检验。备择假设 意味着 中至少有一个元素与误差项 相关，因此是无效的工具变量。在某些情况下，检验矩条件的子集可能是合理的。

我们将工具变量矩阵 分割为 ，其维度分别为 和 ，其中 包含被认为与 不相关的工具变量， 包含可能与 相关的工具变量。这种分割必须满足 ，或者等价地 。这意味着仅使用工具变量 的模型是过度识别的，或者 小于过度识别约束的数量。因此，检验要求 ，即过度识别约束的数量超过一个。

1.2 过度识别检验的子集检验的原理

给定这种分割，维持假设是 。原假设和备择假设分别为 和 。也就是说，原假设是完整的矩条件集是有效的，而备择假设是工具变量子集 与 相关，因此是无效的工具变量。拒绝 而支持 被解释为 被错误设定为工具变量的证据。

基于与前一节相同的推理，为了检验 对 ，我们考虑回归方程（12.66）的分割版本：

但现在我们关注系数 。给定 ， 等价于 。该方程通过最小二乘法估计，用2SLS残差 替换不可观测的 。 的估计量为：

其中 。

1.3 过度识别检验的子集检验的统计量计算方法

Newey (1985) 证明了检验 对 的最优（渐近最有效）检验是拒绝得分统计量的较大值：

其中 ，，，。

独立地，Eichenbaum、L. Hansen 和 Singleton (1988) 提出了基于Sargan统计量差异的检验。设 是基于完整工具变量集的Sargan检验统计量（12.67）， 是基于工具变量集 的Sargan统计量。Sargan差异统计量为 。具体地，设 是仅使用工具变量 的2SLS估计量，设 ，设 。则：

统计量的一个优点是它可以从标准回归输出中相当简单地计算出来。

统计量 渐近等价于将 中的 替换为 ，得到统计量：

事实证明，这就是Newey的统计量 。这些检验具有卡方渐近分布。

定理12.17 在代数上，。在假设12.2和 下，当 时， 且 。因此，检验”如果 则拒绝 “和”如果 则拒绝 “是渐近等价的，具有渐近显著性水平 。

定理12.17表明 和 是相同的，并且与方便的统计量 几乎等价。适当的渐近分布是 。在计算上，实现子集过度识别检验的最简单方法是两次用2SLS估计模型，首先使用完整的工具变量集 ，第二次使用部分工具变量集 。计算两个2SLS回归的Sargan统计量，并计算 作为Sargan统计量的差异。

2.1 准备R环境

首先，加载相关R包。

本文复现使用的R脚本文件和数据集下载链接：

• R脚本文件：code-overidentify-subset.R
• Card数据集：Card1995.dta

2.2 模型1：内生变量edu、exp、exp2，工具变量public、private、age、age2

在模型1中，我们设定工资方程的结构形式为：

其中内生变量包括教育年限（edu）、工作经验（exp）和工作经验平方（exp2），工具变量包括公立大学附近（public）、私立大学附近（private）、年龄（age）和年龄平方（age2）。控制变量包括种族（black）、地区（south）和城市（urban）。

该模型的关键特征在于教育变量被设定为内生变量，这反映了教育选择可能受到个人能力等不可观测因素的影响。我们使用大学附近的虚拟变量作为教育的工具变量，基于地理距离影响教育选择但不会直接影响工资的假设。

模型1的2SLS估计结果如下：

Call:
AER::ivreg(formula = mod_tsls_ppa, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.92063 -0.27218  0.02074  0.28186  1.43044 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.74815    0.48338   7.754 1.21e-14 ***
edu          0.15969    0.04090   3.904 9.65e-05 ***
exp          0.04703    0.02502   1.880 0.060213 .  
exp2        -0.03225    0.12811  -0.252 0.801255    
black       -0.06403    0.06301  -1.016 0.309610    
south       -0.08573    0.02563  -3.345 0.000834 ***
urban        0.08348    0.04125   2.024 0.043073 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4327 on 3003 degrees of freedom
Multiple R-Squared: 0.05111,    Adjusted R-squared: 0.04921 
Wald test: 129.7 on 6 and 3003 DF,  p-value: < 2.2e-16 

从估计结果可以看出，教育回报率约为 0.16，这意味着每增加一年教育，工资平均增长约 17.3%。

对于模型1的过度识别检验，我们计算Sargan统计量来检验工具变量的有效性。Sargan统计量的计算公式为：

其中 是2SLS残差向量， 是工具变量矩阵， 是误差方差的估计量。

模型1的过度识别检验结果：

- Sargan统计量: 0.524 

- p值: 0.469 

- 自由度: 1 

在模型1中，我们有 8 个工具变量和 7 个内生变量，因此过度识别约束的数量为 1。Sargan统计量的值为 0.524，对应的p值为 0.469。

由于p值 大于 0.05，我们 不能拒绝 原假设，即工具变量与误差项不相关的假设。这表明 工具变量可能是有效的。

为了验证计算结果的准确性，我们还手动计算了Sargan统计量：

- 手动计算的Sargan统计量: 0.524 

- 手动计算的p值: 0.469 

手动计算的结果与AER包的结果完全一致，验证了计算的正确性。

2.3 模型2：内生变量edu、exp、exp2，工具变量public、private、dadedu、momedu、age、age2

在模型2中，我们在模型1的基础上增加了两个额外的工具变量：父亲教育年限（dadedu）和母亲教育年限（momedu）。模型的结构形式与模型1相同：

但工具变量集合扩展为：公立大学附近（public）、私立大学附近（private）、父亲教育年限（dadedu）、母亲教育年限（momedu）、年龄（age）和年龄平方（age2）。

增加父母教育作为工具变量的经济学理论基础是：父母的教育水平会影响子女的教育选择，但不会直接影响子女的工资水平。这种假设在早期劳动经济学文献中被广泛使用，但现代文献对此提出了质疑，认为父母教育可能通过家庭教育等方式直接影响子女的能力，而不仅仅是间接影响教育选择。

模型2的2SLS估计结果如下：

Call:
AER::ivreg(formula = mod_tsls_ppdma, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.62908 -0.22194  0.02295  0.24386  1.33074 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept)  4.608902   0.118598  38.862  < 2e-16 ***
edu          0.084337   0.007084  11.906  < 2e-16 ***
exp          0.080681   0.016243   4.967 7.18e-07 ***
exp2        -0.208521   0.081487  -2.559   0.0105 *  
black       -0.174549   0.019816  -8.809  < 2e-16 ***
south       -0.120007   0.015501  -7.742 1.33e-14 ***
urban        0.151923   0.016656   9.121  < 2e-16 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.3751 on 3003 degrees of freedom
Multiple R-Squared: 0.2871, Adjusted R-squared: 0.2857 
Wald test: 177.8 on 6 and 3003 DF,  p-value: < 2.2e-16 

从估计结果可以看出，教育回报率约为 0.084，这意味着每增加一年教育，工资平均增长约 8.8%。

模型2的过度识别检验结果：

- Sargan统计量: 7.892 

- p值: 0.048 

- 自由度: 3 

在模型2中，我们有 10 个工具变量和 7 个内生变量，因此过度识别约束的数量为 3。Sargan统计量的值为 7.892，对应的p值为 0.048。

由于p值 小于 0.05，我们 拒绝 原假设。这表明 工具变量可能存在问题。

为了验证计算结果的准确性，我们还手动计算了Sargan统计量：

- 手动计算的Sargan统计量: 7.892 

- 手动计算的p值: 0.048 

手动计算的结果与AER包的结果完全一致，验证了计算的正确性。

比较模型1和模型2的结果，我们可以观察到：

- 模型1教育回报率: 0.16 

- 模型2教育回报率: 0.084 

- 差异: -0.075 

教育回报率的差异为 -0.075，这表明增加父母教育作为工具变量对估计结果产生了 显著 的影响。

2.4 子集过度识别检验：N统计量和C统计量

根据Hansen教材第12.32节的理论分析，我们现在进行子集过度识别检验。我们将工具变量分为两部分：

• ：被认为与误差项不相关的工具变量（public、private、age、age2）
• ：可能与误差项相关的工具变量（dadedu、momedu）

这种分割满足 的条件，其中 （public、private、age、age2），（edu、exp、exp2），因此 ，模型A是过度识别的。

Call:
AER::ivreg(formula = mod_tsls_za, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.92063 -0.27218  0.02074  0.28186  1.43044 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.74815    0.48338   7.754 1.21e-14 ***
edu          0.15969    0.04090   3.904 9.65e-05 ***
exp          0.04703    0.02502   1.880 0.060213 .  
exp2        -0.03225    0.12811  -0.252 0.801255    
black       -0.06403    0.06301  -1.016 0.309610    
south       -0.08573    0.02563  -3.345 0.000834 ***
urban        0.08348    0.04125   2.024 0.043073 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4327 on 3003 degrees of freedom
Multiple R-Squared: 0.05111,    Adjusted R-squared: 0.04921 
Wald test: 129.7 on 6 and 3003 DF,  p-value: < 2.2e-16 

- Sargan统计量: 0.524 

- p值: 0.469 

- 自由度: 1 

- 模型2的Sargan统计量 (S): 7.892 

- 模型A的Sargan统计量 (Sa): 0.524 

- C统计量 (S - Sa): 7.368 

- C统计量的p值: 0.025 

- 自由度: 2 

- N统计量: 7.195 

- N统计量的p值: 0.027 

- 自由度: 2 

- N统计量: 7.195 

- C统计量: 7.368 

- 差异: 0.173388 

1.1 过度识别检验的定义

当 时，模型是过度识别的，这意味着矩条件数量多于自由参数数量。这是一个约束条件，是可以检验的。这样的检验被称为过度识别检验。

工具变量模型规定 。等价地，由于 ，这可以表示为：

这是对矩矩阵 和 的 向量约束。然而，由于 的维度是 ，小于 ，因此不能确定是否确实存在这样的 。

1.2 过度识别检验的原理

为了更具体地说明，假设有一个内生回归变量 ，没有 ，以及两个工具变量 和 。那么模型规定：

和

因此 同时满足两个方程。这是相当特殊的。

另一种思考方式是，我们可以使用其中一个方程或另一个方程来求解 。在估计方面，这等价于仅使用工具变量 进行IV估计，或者仅使用工具变量 。这两个估计量（在有限样本中）是不同的。如果过度识别假设是正确的，那么两者都在估计相同的参数，并且都对 是一致的。相反，如果过度识别假设是错误的，那么两个估计量将收敛到不同的概率极限，并且不清楚任何一个概率极限是否有意义。

例如，考虑表12.1第4列中使用公共（public）和私立（private）作为教育工具变量的2SLS估计。假设我们改为仅使用公共（public）作为工具变量进行IV估计，然后重复使用私立（private）。第一种情况下教育的IV系数是0.16，第二种情况下是0.27。这些看起来相当不同。然而，第二个估计有较大的标准误差（0.16），所以差异可能是抽样变异。过度识别检验解决了这个问题。

对于一般的过度识别检验，原假设和备择假设是 对 。我们还将添加条件同方差假设：

1.3 Sargan统计量的计算方法

为了实现对 的检验，考虑误差 对工具变量 的线性回归：

其中 。我们可以将 重写为 。虽然 不可观测，但我们可以用2SLS残差 替换它，并通过最小二乘回归估计 ，例如 。Sargan（1958）提出了通过得分检验来检验 ，其等于：

其中 。Basmann（1960）独立提出了 的Wald统计量，它是将 替换为 的 ，其中 。由于同方差得分检验和Wald检验的等价性（见第9.16节），Basmann的统计量是Sargan统计量的单调函数，因此它们产生等价的检验。Sargan的版本更常被报告。

根据Hansen 12.31节的理论分析:

1. 过度识别检验的原假设是 H0: E[Ze] = 0，即所有工具变量都与误差项不相关
2. Sargan统计量在H0下渐近服从卡方分布，自由度为过度识别约束的数量
3. 如果p值很小(<0.01)，说明过度识别约束被违反，模型可能被错误设定
4. 如果p值较大(>0.01)，说明没有证据拒绝过度识别约束，支持模型设定
5. 建议关注1%的显著性水平，因为轻微的拒绝(p值在1%-5%之间)应该谨慎解释

Sargan检验在 时拒绝 而支持 ，其中 是某个临界值。渐近检验将 设置为 分布的 分位数。这由 的渐近零分布证明，我们现在推导这个分布。

定理12.16 在假设12.2和 下，当 时，。对于满足 的 ，，因此检验”如果 则拒绝 “具有渐近显著性水平 。

Sargan统计量 是在条件同方差假设下过度识别约束的渐近检验。它有一些局限性。首先，它是一个渐近检验，没有有限样本（例如F）对应物。模拟证据表明，在小样本和中等样本量中，检验可能过度拒绝（拒绝过于频繁）。因此，p值应该谨慎解释。其次，条件同方差的假设在应用中是不现实的。将Sargan统计量推广到允许异方差的最佳方法是使用GMM过度识别统计量——我们将在第13章中研究。对于2SLS，Wooldridge（1995）建议了稳健得分检验，但Baum、Schaffer和Stillman（2003）指出它在数值上等价于GMM过度识别统计量。因此，底线似乎是，要允许异方差或聚类，最好使用GMM方法。

在过度识别应用中，报告过度识别检验总是明智的。如果检验不显著，这意味着过度识别约束没有被拒绝，支持估计的模型。如果过度识别检验统计量高度显著（如果p值非常小），这是过度识别约束被违反的证据。在这种情况下，我们应该担心模型被错误设定，解释参数估计应该谨慎进行。

在报告过度识别检验结果时，关注非常小的显著性水平（如1%）似乎是合理的。这意味着只有当Sargan p值非常小时（例如小于0.01），我们才应该将模型视为”被拒绝”。关注非常小的显著性水平的原因是很难解释”模型被拒绝”的结果。退一步说，任何过度识别模型在字面上都是真实的，这似乎不太可信；更可能可信的是过度识别模型是一个合理的近似。检验问的是”是否有证据表明模型不真实”的问题，而我们真正想知道的是”是否有证据表明模型是一个糟糕的近似”的答案。因此，需要强有力的证据才能得出”让我们拒绝这个模型”的结论似乎是合理的。建议是轻微的拒绝（p值在1%和5%之间）应该被视为轻微令人担忧，但不是反对模型的关键证据。过度识别检验的结果应该与其他信息整合，然后做出强有力的决定。

2.1 准备R环境

首先，加载相关R包。

本文复现使用的R脚本文件和数据集下载链接：

• R脚本文件：code-overidentify.R
• Card数据集：Card1995.dta

2.2 模型1：内生变量为edu，工具变量为public和private

在第一个模型中，我们设定内生变量为教育年限（edu），工具变量为公立大学接近度（public）和私立大学接近度（private）。这是一个典型的过度识别模型，因为内生变量数量为1个（edu），而工具变量数量为2个（public和private），满足 的条件，其中 ，。

该模型的基本形式为：

其中教育年限（edu）是内生变量，需要通过工具变量进行估计。工具变量包括：

• public：公立大学接近度，表示个体是否居住在公立大学附近
• private：私立大学接近度，表示个体是否居住在私立大学附近

外生变量包括工作经验（exp）、工作经验平方（exp²）、种族（black）、地区（south）和城镇（urban）。

过度识别检验的理论基础。根据Hansen 12.31节的理论分析，当 时，模型存在过度识别约束。在这个模型中，我们有两个矩条件：

其中 是结构方程的误差项。由于只有一个内生变量edu，这两个矩条件实际上是对同一个参数 的约束，因此存在过度识别。

使用2SLS方法估计模型，我们得到以下结果：

Call:
AER::ivreg(formula = mod_tsls_pp, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.93985 -0.25152  0.01722  0.27365  1.48154 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.26801    0.68718   4.756 2.07e-06 ***
edu          0.16109    0.04077   3.951 7.96e-05 ***
exp          0.11931    0.01818   6.564 6.16e-11 ***
exp2        -0.23054    0.03503  -6.582 5.46e-11 ***
black       -0.10173    0.04531  -2.245   0.0248 *  
south       -0.09504    0.02165  -4.389 1.18e-05 ***
urban        0.11645    0.02705   4.305 1.73e-05 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4108 on 3003 degrees of freedom
Multiple R-Squared: 0.1447, Adjusted R-squared: 0.143 
Wald test:   111 on 6 and 3003 DF,  p-value: < 2.2e-16 

从估计结果可以看出，教育年限的系数为 0.161，标准误为 0.041，t统计量为 3.951。

我们使用Sargan统计量来检验过度识别约束的有效性。Sargan统计量的计算公式为：

其中 是2SLS残差， 是工具变量矩阵， 是误差方差的估计值。

AER包计算的Sargan检验结果：

                 df1  df2  statistic      p-value
Weak instruments   2 3002 13.4953074 1.463030e-06
Wu-Hausman         1 3002  5.5569969 1.847081e-02
Sargan             1   NA  0.8205891 3.650080e-01

可以看到Sargan统计量、p值和自由度：

- Sargan统计量: 0.8206 
- p值: 0.365 
- 自由度: 1 

手动计算的Sargan统计量验证：

- 手动计算的Sargan统计量: 0.8206 

- 自由度: 1 

- p值: 0.365 

检验结果解释。根据Sargan检验的结果，p值为 0.365。根据Hansen的建议，我们关注1%的显著性水平。由于p值 大于 0.01，因此我们 不能拒绝 过度识别约束的原假设。

经济含义。该检验结果对于理解教育回报率的估计具有重要意义。如果过度识别检验不显著，说明使用公立大学接近度（public）和私立大学接近度（private）作为教育年限的工具变量是合理的，两个工具变量都满足外生性条件。这增强了我们对教育回报率估计结果可信度的信心。

2.3 模型2：内生变量为edu、exp和exp2，工具变量为public、private、age和age2

在第二个模型中，我们设定内生变量为教育年限（edu）、工作经验（exp）和工作经验平方（exp2），工具变量为公立大学接近度（public）、私立大学接近度（private）、年龄（age）和年龄平方（age2）。这是一个更复杂的过度识别模型，因为内生变量数量为3个（edu、exp、exp2），而工具变量数量为4个（public、private、age、age2），满足 的条件，其中 ，。

该模型的基本形式为：

其中教育年限（edu）、工作经验（exp）和工作经验平方（exp2）都是内生变量，需要通过工具变量进行估计。工具变量包括：

• public：公立大学接近度，表示个体是否居住在公立大学附近
• private：私立大学接近度，表示个体是否居住在私立大学附近
• age：年龄，作为工作经验的工具变量
• age2：年龄平方，作为工作经验平方的工具变量

外生变量包括种族（black）、地区（south）和城镇（urban）。

过度识别检验的理论基础。根据Hansen 12.31节的理论分析，当 时，模型存在过度识别约束。在这个模型中，我们有四个矩条件：

其中 是结构方程的误差项。由于有三个内生变量（edu、exp、exp2），这四个矩条件实际上是对三个参数 、、 的约束，因此存在过度识别，过度识别约束的数量为 。

使用2SLS方法估计模型，我们得到以下结果：

Call:
AER::ivreg(formula = mod_tsls_ppa, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.92063 -0.27218  0.02074  0.28186  1.43044 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.74815    0.48338   7.754 1.21e-14 ***
edu          0.15969    0.04090   3.904 9.65e-05 ***
exp          0.04703    0.02502   1.880 0.060213 .  
exp2        -0.03225    0.12811  -0.252 0.801255    
black       -0.06403    0.06301  -1.016 0.309610    
south       -0.08573    0.02563  -3.345 0.000834 ***
urban        0.08348    0.04125   2.024 0.043073 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4327 on 3003 degrees of freedom
Multiple R-Squared: 0.05111,    Adjusted R-squared: 0.04921 
Wald test: 129.7 on 6 and 3003 DF,  p-value: < 2.2e-16 

从估计结果可以看出，教育年限的系数为 0.16，标准误为 0.041，t统计量为 3.904。工作经验的系数为 0.047，工作经验平方的系数为 -0.032。

我们使用Sargan统计量来检验过度识别约束的有效性。Sargan统计量的计算公式为：

其中 是2SLS残差， 是工具变量矩阵， 是误差方差的估计值。

AER包计算的Sargan检验结果：

                        df1  df2    statistic      p-value
Weak instruments (edu)    4 3002    8.6480786 6.151497e-07
Weak instruments (exp)    4 3002 1215.9757221 0.000000e+00
Weak instruments (exp2)   4 3002 1113.7721684 0.000000e+00
Wu-Hausman                2 3001    2.9771177 5.108991e-02
Sargan                    1   NA    0.5237879 4.692303e-01

可以看到Sargan统计量、p值和自由度：

- Sargan统计量: 0.5238 
- p值: 0.4692 
- 自由度: 1 

手动计算的Sargan统计量验证：

- 手动计算的Sargan统计量: 0.5238 

- 自由度: 1 

- p值: 0.4692 

检验结果解释。根据Sargan检验的结果，p值为 0.4692。根据Hansen的建议，我们关注1%的显著性水平。由于p值 大于 0.01，因此我们 不能拒绝 过度识别约束的原假设。

经济含义。该检验结果对于理解教育回报率和工作经验回报率的估计具有重要意义。如果过度识别检验不显著，说明使用公立大学接近度（public）、私立大学接近度（private）、年龄（age）和年龄平方（age2）作为教育年限和工作经验的工具变量是合理的，所有工具变量都满足外生性条件。这增强了我们对教育回报率和工作经验回报率估计结果可信度的信心。

2.4 两个模型的比较分析

通过比较两个模型的Sargan检验结果，我们可以得出以下结论：

1. 模型复杂度：模型2比模型1更复杂，包含了更多的内生变量和工具变量，过度识别约束的数量为1个。

2. 工具变量的有效性：两个模型的Sargan检验结果都支持工具变量的外生性假设，说明所选择的工具变量是有效的。

3. 模型设定的稳健性：过度识别检验的不显著结果增强了我们对模型设定稳健性的信心，表明工具变量的选择是合理的。

4. 政策含义：这些结果支持了教育和工作经验对工资收入的正向影响，为教育投资和职业发展政策提供了实证支持。

1.1 初始文献

David Card（1995）在一篇有影响力的论文中提出，如果潜在学生住在大学附近，就可以降低就读成本，从而提高学生上大学的可能性。然而，大学邻近性不会直接影响学生的技能或能力，因此不应对其市场工资产生直接影响。这些考虑因素表明，大学邻近性可以作为工资回归教育的工具。我们使用Card（1995）论文中报告的最简单的模型来说明工具变量的概念。

本文复现使用的R脚本文件和数据集下载链接：

• R脚本文件hansen21-chpt12-iv.R：
• Card数据集Card1995.dta：

1.2 变量定义

为了研究工资收入（wage，或对数化的工资lwage）是如何决定的，我们考虑如下所示的一些变量（具体定义见 表 1)）。

3.1 模型1：直接OLS回归（不使用工具变量）

OLS建模表达式为：

R代码如下：

# model ols
mod_ls <- formula("lwage ~ edu + exp + exp2 + black + south + urban")
fit_lm <- lm(formula = mod_ls, data = tbl_reg)
smry_lm <- summary(fit_lm)

R代码下OLS回归结果初始报告结果如下：

Call:
lm(formula = mod_ls, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.59297 -0.22315  0.01893  0.24223  1.33190 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept)  4.733664   0.067603  70.022  < 2e-16 ***
edu          0.074009   0.003505  21.113  < 2e-16 ***
exp          0.083596   0.006648  12.575  < 2e-16 ***
exp2        -0.224088   0.031784  -7.050 2.21e-12 ***
black       -0.189632   0.017627 -10.758  < 2e-16 ***
south       -0.124862   0.015118  -8.259  < 2e-16 ***
urban        0.161423   0.015573  10.365  < 2e-16 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.3742 on 3003 degrees of freedom
Multiple R-squared:  0.2905,    Adjusted R-squared:  0.2891 
F-statistic: 204.9 on 6 and 3003 DF,  p-value: < 2.2e-16

3.2 模型2：一个内生变量且等量工具变量情形下的2SLS分析

edu内生，工具变量为college：

假如我们认为前述OLS模型（见 式 1 ）中受教育年数edu为内生自变量，并且认为其他自变量都是外生的。同时，我们选择把附近是否有大学college作为内生自变量edu的一个备选工具变量。

我们进行两阶段最小二乘回归（2SLS），具体两阶段模型见 式 2 和 式 3 ）：

我们可以使用如下R代码（AER::ivreg函数）进行两阶段最小二乘估计：

mod_iv_cl <- formula("lwage ~ edu + exp + exp2 + black + south + urban |college + exp + exp2 + black + south + urban")
fit_iv_cl <- AER::ivreg(formula = mod_iv_cl,data = tbl_reg )
smry_iv_cl <- summary(fit_iv_cl)

具体2SLS估计的R初始报告结果如下(AER::ivreg函数只显示了第二阶段回归结果)：

Call:
AER::ivreg(formula = mod_iv_cl, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.82125 -0.24065  0.02368  0.25469  1.43205 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.75278    0.82934   4.525 6.27e-06 ***
edu          0.13229    0.04923   2.687  0.00725 ** 
exp          0.10750    0.02130   5.047 4.76e-07 ***
exp2        -0.22841    0.03341  -6.836 9.84e-12 ***
black       -0.13080    0.05287  -2.474  0.01342 *  
south       -0.10490    0.02307  -4.546 5.67e-06 ***
urban        0.13132    0.03013   4.359 1.35e-05 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.391 on 3003 degrees of freedom
Multiple R-Squared: 0.2252, Adjusted R-squared: 0.2237 
Wald test: 120.8 on 6 and 3003 DF,  p-value: < 2.2e-16 

3.3 模型3：两个内生变量且等量工具变量情形下的2SLS分析

假如我们认为前述OLS模型（见 式 1 ）存在内生性问题，其中受教育年数edu、工作年数及其平方exp和exp2为内生自变量，并且认为其他自变量都是外生的。

同时，我们选择把附近是否有大学college作为内生自变量edu的一个备选工具变量，把年龄及其平方age和age2分别作为exp和exp2的工具变量。

我们可以进行两阶段最小二乘回归（2SLS）分析，具体两阶段模型见 式 4 、式 式 5 、 式 6 ，以及 式 7 ）：

此时，edu、exp和exp2内生，工具变量为college、age和age2。我们可以使用如下R代码（AER::ivreg函数）进行两阶段最小二乘估计：

mod_iv_ca <- formula("lwage ~ edu + exp + exp2 + black + south + urban |college + age + age2 + black + south + urban")
fit_iv_ca <- AER::ivreg(formula = mod_iv_ca,data = tbl_reg )
smry_iv_ca <- summary(fit_iv_ca) 

具体2SLS估计的R初始报告结果如下(AER::ivreg函数只显示了第二阶段回归结果)：

Call:
AER::ivreg(formula = mod_iv_ca, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.82400 -0.25248  0.02286  0.26349  1.31561 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  4.06567    0.60850   6.682 2.81e-11 ***
edu          0.13295    0.05138   2.588 0.009712 ** 
exp          0.05596    0.02599   2.153 0.031412 *  
exp2        -0.07957    0.13403  -0.594 0.552796    
black       -0.10314    0.07737  -1.333 0.182623    
south       -0.09818    0.02876  -3.413 0.000651 ***
urban        0.10798    0.04974   2.171 0.030010 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4032 on 3003 degrees of freedom
Multiple R-Squared: 0.1764, Adjusted R-squared: 0.1747 
Wald test: 148.1 on 6 and 3003 DF,  p-value: < 2.2e-16 

3.4 模型4：一个内生变量且富余工具变量情形下的2SLS分析

假如我们认为前述OLS模型（见 式 1 ）存在内生性问题，其中受教育年数edu为内生自变量，并且认为其他自变量都是外生的。

同时，我们选择把附近是否有公立大学public和附近是否有私立大学private作为内生自变量edu的2个备选工具变量。

我们可以进行两阶段最小二乘回归（2SLS）分析，具体两阶段模型见下面的 式 8 和 式 9 ）：

此时，edu内生，工具变量为public和private。我们可以使用如下R代码（AER::ivreg函数）进行两阶段最小二乘估计：

具体2SLS估计的R初始报告结果如下(AER::ivreg函数只显示了第二阶段回归结果)：

Call:
AER::ivreg(formula = mod_tsls_pp, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.93985 -0.25152  0.01722  0.27365  1.48154 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.26801    0.68718   4.756 2.07e-06 ***
edu          0.16109    0.04077   3.951 7.96e-05 ***
exp          0.11931    0.01818   6.564 6.16e-11 ***
exp2        -0.23054    0.03503  -6.582 5.46e-11 ***
black       -0.10173    0.04531  -2.245   0.0248 *  
south       -0.09504    0.02165  -4.389 1.18e-05 ***
urban        0.11645    0.02705   4.305 1.73e-05 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4108 on 3003 degrees of freedom
Multiple R-Squared: 0.1447, Adjusted R-squared: 0.143 
Wald test:   111 on 6 and 3003 DF,  p-value: < 2.2e-16 

3.5 模型5：两个内生变量且富余工具变量情形下的2SLS分析

假如我们认为前述OLS模型（见 式 1 ）存在内生性问题，其中受教育年数edu、工作年数及其平方exp和exp2为内生自变量，并且认为其他自变量都是外生的。

同时，我们选择把附近是否有公立大学public和附近是否有私立大学private作为内生自变量edu的2个备选工具变量；把年龄及其平方age和age2分别作为exp和exp2的工具变量。

我们可以进行两阶段最小二乘回归（2SLS）分析，具体两阶段模型见下面的 式 10 、 式 11 、 式 12 和 式 13 ）：

此时，edu、exp和exp2内生，工具变量为public和private、以及age和age2。我们可以使用如下R代码（AER::ivreg函数）进行两阶段最小二乘估计：

具体2SLS估计的R初始报告结果如下(AER::ivreg函数只显示了第二阶段回归结果)：

Call:
AER::ivreg(formula = mod_tsls_ppa, data = tbl_reg)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.92063 -0.27218  0.02074  0.28186  1.43044 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  3.74815    0.48338   7.754 1.21e-14 ***
edu          0.15969    0.04090   3.904 9.65e-05 ***
exp          0.04703    0.02502   1.880 0.060213 .  
exp2        -0.03225    0.12811  -0.252 0.801255    
black       -0.06403    0.06301  -1.016 0.309610    
south       -0.08573    0.02563  -3.345 0.000834 ***
urban        0.08348    0.04125   2.024 0.043073 *  
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.4327 on 3003 degrees of freedom
Multiple R-Squared: 0.05111,    Adjusted R-squared: 0.04921 
Wald test: 129.7 on 6 and 3003 DF,  p-value: < 2.2e-16 

3.6 模型6：使用有限信息极大似然估计（LIML）进行估计

估计结构方程参数的另一种方法是通过最大似然法。 Anderson 和 Rubin (1949) 推导出 联合分布的最大似然估计量。该估计量称为有限信息最大似然 (LIML)。

该估计量称为“有限信息”，因为它基于 的结构方程与 的简化形式方程相结合。如果最大似然也是基于 的结构方程导出的，这将导致所谓的全信息最大似然 (FIML)。 LIML 相对于 FIML 的优势在于，前者不需要 的结构模型，因此允许研究人员专注于感兴趣的结构方程（ 的结构方程）。我们不描述 FIML 估计量，因为它在应用计量经济学中并不常用。

3.7 全部工资模型集中展示和综合比较

以上模型的综合汇总结果比较见下表：

说明：

• 如果使用两阶段最小二乘法，则只列出了第二阶段回归结果

• 最后一列LIML_pp采用的是有限信息极大似然估计方法（LIML）。

5.1 模型3：等量工具变量情形

在 小节 3.3 中，给定情形为：edu、exp和exp2内生，工具变量为college、age和age2。作为对比，我们此处使用R包systemfit进行估计。具体结果见 表 4：

```{r}
#| label: tbl-just-systemfit-3t3
#| tbl-cap: "等量工具变量下的2SLS结果"
#| eval: true

# load package
library(systemfit)
# set two models
eq_1.1 <- edu ~  -1 + age + age2 +black +south +urban + college
eq_1.2 <- exp ~  -1 + age + age2 +black +south +urban + college
eq_1.3 <- exp2 ~  -1 + age + age2 +black +south +urban + college # important !!

eq_2 <- lwage ~ edu + exp + exp2 +black +south +urban

sys <- list(
  eq1.1 = eq_1.1,
  eq1.2 = eq_1.2, 
  eq1.3 = eq_1.3, 
  eq2 = eq_2)

# specify the instruments

instr <- ~age + age2 +black +south +urban + college

# fit models 
fit.sys <- systemfit(
  formula =  sys, 
  inst = instr, 
  method ="2SLS", 
  data = tbl_reg)

smry <- summary(fit.sys)
out <- broom::tidy(fit.sys) %>%
  separate(., col = term, 
           into = c("eq", "vars"), sep = "_") %>%
  select(-all_of(starts_with("conf")))

knitr::kable(out, 
      #caption ="等量工具变量下的2SLS结果" ,
      digits = 4)
```

5.2 模型5：富余工具变量情形

在 小节 3.5 中，给定情形为：edu、exp和exp2内生，工具变量为public和private、以及age和age2。

作为对比，我们此处使用R包systemfit进行估计。具体结果见表 表 5：

```{r}
#| label: tbl-rich-systemfit
#| tbl-cap: "富余工具变量下的2SLS结果" 
#| eval: true

# load package
library(systemfit)
# set two models
eq_1.1 <- edu ~  -1 + age + age2 +black +south +urban + public +private
eq_1.2 <- exp ~  -1 + age + age2 +black +south +urban + public +private
eq_1.3 <- exp2 ~  -1 + age + age2 +black +south +urban + public +private

eq_2 <- lwage ~ edu + exp + exp2 +black +south +urban

sys <- list(
  eq1.1 = eq_1.1,
  eq1.2 = eq_1.2, 
  eq1.3 = eq_1.3, 
  eq2 = eq_2)

# specify the instruments

instr <- ~age + age2 +black +south +urban + public +private


# fit models 
fit.sys <- systemfit(
  formula =  sys, 
  inst = instr, 
  method ="2SLS", 
  data = tbl_reg)

smry <- summary(fit.sys)
out <- tidy(fit.sys) %>%
  separate(., col = term, 
           into = c("eq", "vars"), sep = "_") %>%
  select(-all_of(starts_with("conf")))

knitr::kable(out, 
      #caption ="富余工具变量下的2SLS结果" ,
      digits = 4)
```

1.1 基本符号定义

对于单方程线性回归：

相关符号定义为：

• ：标量因变量
• ： 回归元向量
• ： 系数向量
• ：标量误差项

多方程回归系统中，第个（）回归方程可以表示为：

多方程回归系统中符号定义为：

• ：方程个数
• ：方程索引
• ：第个因变量
• ：第个方程的回归元向量
• ：第个方程的系数向量
• ：第个方程的误差项
• ：总系数个数

1.2 向量形式

系统方程可以表示为向量形式：

因变量向量：因变量向量

回归元矩阵 ：。具体形式为：

系数向量 ：堆叠系数向量。具体形式为：

误差向量和协方差矩阵:

• ：误差向量
• ：误差协方差矩阵
  • 对角元素：
  • 非对角元素：

1.3 观测值堆叠形式

系统方程可以表示为：

对于个观测值，定义：

• 因变量向量。具体形式为：：

• 误差向量 。具体形式为：：

• 回归元矩阵。具体形式为：：

对于共同回归元情况。当且时（所有方程使用相同的回归元），方程系统可以简化表示为

其中：

• 系数矩阵：：

此外，观测值堆叠形式还可以表示为：

其中：

• 因变量矩阵：
• 误差矩阵：
• 回归元矩阵：

1.4 Kronecker积表示

我们可以使用Kronecker积对矩阵进行简化表示：

其中表示Kronecker积。

4.1 影响力值的计算

影响力值是上述投影矩阵的对角线元素，因此可以表达为：

第一步，先算出平方化矩阵⁶：

第二步，对上述矩阵进行行加总求和：

2.1 复现步骤和基本过程

关于数据生成过程，我们使用Cholesky分解方法生成双变量正态分布数据，分别模拟两种情形：

1. 方差相等情形：和具有相同的方差（）
2. 方差不相等情形：和具有不同的方差（，）

对于每种情形，我们分别进行：

1. 对的标准回归：
2. 对的逆回归：

我们比较两种回归的系数是否相等：

（1）方差相等情形：

• 正回归估计系数：$ = =r_{(X,Y)} $， ；

• 逆回归估计系数：，

（2）方差不相等情形：

• 正回归估计系数：$ = r_{(X,Y)} $， ；

• 逆回归估计系数：，

最后，我们复现了错误理解的逆回归过程，并进行结果比较。

常见的错误理解是简单地对方程 （正回归）进行代数变换：

这种方法得到的系数 和 并不是有效的线性投影系数。

2.2 方差相等情形复现结果

为了方便大家复现，我们在这里给出相关的xlsx数据集（点击下载）。

数据集基本情况和回归系数比较表如下：

在方差相等的情况下，我们验证了以下重要结论：

1. 系数相等性：对的回归系数与对的逆回归系数完全相等
2. 截距相等性：两个回归的截距也相等
3. 相关系数性质：相关系数等于两个回归的斜率系数
4. 错误理解的逆回归：错误理解的逆回归得到的系数与理论值不一致

2.3 方差不相等情形复现结果

为了方便大家复现，我们在这里给出相关的xlsx数据集（点击下载）。

数据集基本情况和回归系数比较表如下：

在方差不相等的情况下，我们观察到：

1. 系数不相等性：对的回归系数与对的逆回归系数不相等
2. 截距不相等性：两个回归的截距也不相等
3. 相关系数性质：相关系数不等于斜率系数
4. 错误理解的逆回归：错误理解的逆回归得到的系数与理论值不一致

2.4 理论意义

通过对比两种情形的结果，我们验证了Galton的重要发现：

1. 稳定总体的重要性：只有在稳定总体中（和具有相同方差），正向和逆向投影才具有相同的斜率系数
2. 回归到均值的对称性：在稳定总体中，两个回归方程都表现出回归到均值的特征
3. 投影与逆运算的区别：理解投影的逆运算与逆投影之间的区别对于正确理解回归分析至关重要
4. 方差相等性的关键作用：方差相等性是逆回归对称性质的必要条件

3.1 Cholesky分解的性质和过程

对于正定对称协方差矩阵 ，存在下三角矩阵 ，使得：

其中 是下三角矩阵，满足 当 时。

如果我们有独立的标准正态随机变量 ，其中 且相互独立，那么通过线性变换：

其中 是均值向量， 将具有协方差矩阵 和均值 。

对于双变量情况，协方差矩阵为：

其中：

• 是X的方差
• 是Y的方差
  
• 是相关系数

具体过程如下：

1. 输入：协方差矩阵
2. 计算：
3. 结果：下三角矩阵 ，满足

数据生成步骤如下：

1. 生成独立标准正态变量：
2. 应用线性变换：
3. 添加均值：，

3.2 为什么这种方法有效？

线性变换保持正态性：如果 是多元正态分布，那么 也是多元正态分布。

协方差矩阵的变换：

对于线性变换 ，有：

均值的变换：

优势如下：

1. 精确性：能够精确生成具有指定协方差结构的数据
2. 效率：计算复杂度相对较低
3. 数值稳定性：Cholesky分解数值稳定性好
4. 灵活性：可以轻松扩展到更高维的情况

在逆回归验证中的作用如下：

在逆回归验证中，Cholesky分解确保了：

• X和Y具有指定的方差（）
• X和Y具有指定的相关系数（）
• 数据服从双变量正态分布
• 为后续验证逆回归性质提供了理想的数据基础

这种方法特别适合验证理论性质，因为它能够精确控制数据的统计特性，使得理论预期与经验结果能够完美匹配。

2.1 一阶条件

对 关于 求导：

令导数等于零：

整理得到：

2.2 矩阵解

这是一个线性方程组 ，其中： - （ 矩阵） - （ 向量） - （ 向量）

解为：

这就是二元回归的OLS估计量。

2.3 二阶条件

验证二阶条件，计算Hessian矩阵：

这是一个半正定矩阵。如果它是正定的，则二阶条件满足， 是 的唯一最小值点。

4.1 1. 数据生成

根据教材脚注，我们生成模拟数据： - （均匀分布） - （正态分布，均值为3X，方差为1）

我们估计如下无截距模型：

模拟数据集如下：

4.2 2. OLS估计

根据公式(3.7)计算OLS估计量。

以下是R估计结果的初始报告摘要：

Call:
lm(formula = Y ~ 0 + X, data = data)

Residuals:
     Min       1Q   Median       3Q      Max 
-1.55675 -0.59042  0.08146  0.79300  1.80784 

Coefficients:
  Estimate Std. Error t value Pr(>|t|)    
X   2.5407     0.3461   7.341 5.87e-07 ***
---
Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 0.9749 on 19 degrees of freedom
Multiple R-squared:  0.7393,    Adjusted R-squared:  0.7256 
F-statistic: 53.89 on 1 and 19 DF,  p-value: 5.866e-07

对上述结果进行整理得到如下估计方程表达式：

4.3 3. 计算拟合值和残差

根据OLS估计量计算拟合值和残差。

以下是拟合值和残差的计算结果表：

4.4 4. 绘制图形1：Deviation from Fitted Line

根据拟合值和残差计算结果绘制图形1。图形如下：

4.5 5. 绘制图形2：Sum of Squared Error Function