内生性问题—广义矩估计

1 GMM引入

线性回归模型满足如下线性形式
$$y_i={\mathbf{x}}_i^{\prime }\mathbf{\beta }+{\epsilon }_i$$
若解释变量与随机扰动项满足$Cov(x_{ik},{\epsilon }_i)\ne 0$，则表明解释变量$x_{ik}$具有内生性，或$x_{ik}$为内生解释变量。这里$i,k$分别为观测次数与自变量标识。解决上述问题的常用方法时寻找一个工具变量$z$，使得满足以下两个条件：
$$\{\begin{array}{l}Cov(x,z)\ne 0\\ Cov(z,\epsilon )=0\end{array}$$
第一个条件称为相关性，即工具变量与内生解释变量具有相关性（相关性越强越好）；第二个条件为排斥性，即工具变量与扰动项不存在相关性。利用两阶段最小二乘法方法（2SLS）进行估计可得到一致估计量，具体思想为：通过内生解释变量对工具变量进行回归，将内生解释变量分解为不与随机扰动项相关的外生解释变量部分，与扰动项相关的内生部分；由于外生解释变量部分是关于工具变量的线性函数，因此用外生解释变量部分代替原解释变量进行回归，从而得到一致的估计量。当然，如果第一个条件，即相关性越强，则分解后的外生解释变量包含原始解释变量的信息越多，从而提高估计效率；相反，若相关性较弱，则外生解释变量包含原始变量的信息越少，估计效率大大下降。因此，需要寻找更多的工具变量，利用内生解释变量对这些工具变量进行回归，则分离后的外生解释变量包含原始内生解释变量的信息越多，估计效率越高。通过比较内生解释变量与工具变量的个数，

• 若内生解释变量个数 > 外生解释变量个数，则待估参数不可识别（矩条件（方程）个数少于参数个数）
• 若内生解释变量个数 = 外生解释变量个数，则待估参数恰好识别（矩条件（方程）个数等于参数个数）
• 若内生解释变量个数 < 外生解释变量个数，则待估参数过度识别（矩条件（方程）个数大于参数个数）

第一个情况无法估计参数，第二种情况刚好能找到一组参数解，第三种情况存在无数组解。第二种情况虽然能识别参数，但每个内生解释变量都对应一个外生变量，分解的出外生解释变量不一定足够包含内生解释变量的大部分信息；第三种情况虽然有更多的工具变量，但估计参数存在无穷组解。一种方法是将多个工具变量线性组合为一个工具变量，此时回到恰好识别情形。线性组合也包括无穷种，根据已有证明，在球形扰动假设条件下，2SLS提供的工具变量的线性组合是最有效率的。2SLS尽管能解决过度识别情形，但却是在球形扰动条件下成立，即扰动项方程协方差矩阵不存在自相关以及同方差假设。为为了能在非球型扰动假设条件下实现过度识别情形的估计，需要引入GMM估计方法。GMM与2SLS关系就如同GLS与与OLS的关系；因为前者都不受到球形扰动假设约束，后者皆在球形扰动假设下成立。

---

2 GMM假定

2.1 线性假设

线性回归模型满足如下线性形式
$$y_i={\mathbf{x}}_i^{\prime }\mathbf{\beta }+{\epsilon }_i$$
其中${\mathbf{x}}_i=(x_{i1},x_{i1},\dots x_{ik}{)}^{\prime }$为第$i$次观测。

---

2.2 渐进独立平稳

被解释变量$y_i$、解释变量${\mathbf{x}}_i$与工具变量${\mathbf{z}}_i$（维度是$L$）构成的随机过程 w i = u n i q u e { y i , x i , z i } \boldsymbol w_i =unique \{y_i,\boldsymbol x _i,\boldsymbol z_i\} wi​=unique{yi​,xi​,zi​}为渐进独立平稳过程；其中unique表示这些变量不存在重叠。

---

2.3 工具变量正交性

既然是工具变量，至少需要符号前定变量条件，即工具变量与同期扰动项不相关；设$L$维向量${\mathbf{g}}_i={\mathbf{z}}_i{\epsilon }_i$，其期望为$E({\mathbf{g}}_i)=E({\mathbf{z}}_i{\epsilon }_i)=0$

---

2.4 满秩条件

矩阵$E({\mathbf{z}}_i{\mathbf{x}}_i^{\prime })$列满秩，即$rank(E({\mathbf{z}}_i{\mathbf{x}}_i^{\prime }))=K$这里$L>K$,并记${\mathbf{\Sigma }}_{ZX}\equiv \mathrm{E}\left(z_i{\mathbf{x}}_i^{\prime }\right)$

---

2.5 鞅差分序列

${\mathbf{g}}_i$为鞅差分序列，其协方差矩阵
$$\mathbf{S}\equiv \mathrm{E}\left({\mathbf{g}}_i{\mathbf{g}}_i^{\prime }\right)=\mathrm{E}\left({\epsilon }_i^2{\mathbf{z}}_i{z}_i^{\prime }\right)$$
可逆

---

2.6 四阶矩条件

关于解释变量$x$的四阶矩条件$$\mathrm{E}\left[{\left(x_{ik}{z}_{ij}\right)}^2\right]$$存在其有限，$\forall i,j,k$

---

3 GMM推导

设总体矩条件
$$\mathrm{E}\left({\mathbf{g}}_i\right)=\mathrm{E}\left(z_i{\epsilon }_i\right)=0$$
的样本矩条件
$${\mathbf{g}}_n(\hat{\mathbf{\beta }})\equiv \frac{1}{n}\sum _{i=1}^n{z}_i\left(y_i-{\mathbf{x}}_i^{\prime }\hat{\mathbf{\beta }}\right)=0$$
其中${\mathbf{z}}_i$的维度为$L$，参数$\hat{\mathbf{\beta }}$的维度为$K$,这里工具变量个数大于内生解释变量个数，即$L>K$。此时无法找到唯一解$\hat{\mathbf{\beta }}$，使得${\mathbf{g}}_n(\hat{\mathbf{\beta }})=0$成立。我们将${\mathbf{g}}_n(\hat{\mathbf{\beta }})$转为二次型：如果存在解$\hat{\mathbf{\beta }}$使得${\mathbf{g}}_n(\hat{\mathbf{\beta }})$无限接近0，则二次型
$${\left({\mathbf{g}}_n(\hat{\mathbf{\beta }})\right)}_{1\times L}^{\prime }{\left({\mathbf{g}}_n(\hat{\mathbf{\beta }})\right)}_{L\times 1}\to 0$$
二次型还需要一个依赖于样本的随机正定对称矩阵${\hat{W}}_{L\times L}$，且在大样本条件下，$P{\lim }_{n\to \infty }\hat{W}=W$,$W$为非随机的对称正定矩阵。定义最小化目标函数
$$\underset{\hat{\beta }}{\min }J(\hat{\mathbf{\beta }},\hat{\mathbf{W}})\equiv n{\left({\mathbf{g}}_n(\hat{\mathbf{\beta }})\right)}^{\prime }\hat{\mathbf{W}}\left({\mathbf{g}}_n(\hat{\mathbf{\beta }})\right)$$
其中目标函数一定大于0，而$n$是为了方便统计计算，不影响最小值点；定义$GMM$估计量为该问题的最优解，则
$${\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})\equiv \underset{\hat{\mathbf{\beta }}}{\mathrm{argmin}}J(\hat{\mathbf{\beta }},\hat{\mathbf{W}})$$
显然$\hat{\mathbf{\beta }}$是关于权重矩阵$\hat{W}$的函数，因此选择不同$W$对$\hat{\mathbf{\beta }}$的估计效率也存在差异。$\hat{W}$的作用是对$L$个矩条件进行赋权，不同矩条件的强弱不同，则对应的方差较小（矩阵$\mathbf{S}=\mathrm{E}\left({\mathbf{g}}_i{\mathbf{g}}_i^{\prime }\right)$对角线元素），此时应在$\hat{W}$种赋予更大的权重。当然最简单的方法将$\hat{W}$视为单位阵，即不同矩条件的影响相同。下面是$GMM$估计量推导过程：记${\mathbf{S}}_{\mathrm{Z}\mathrm{X}}\equiv \frac{1}{n}{\sum }_{i=1}^n{\mathbf{z}}_i{\mathbf{x}}_i^{\prime },{\mathbf{S}}_{Zy}\equiv \frac{1}{n}{\sum }_{i=1}^n{\mathbf{z}}_i{y}_i$，则最小化目标函数,
$$\begin{array}{rl}J(\hat{\mathbf{\beta }},\hat{\mathbf{W}})& =n{\left({\mathbf{S}}_{Zy}-{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)}^{\prime }\hat{\mathbf{W}}\left({\mathbf{S}}_{Zy}-{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)=n\left({\mathbf{S}}_{\mathrm{Z}\mathrm{y}}^{\prime }-{\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\right)\hat{\mathbf{W}}\left({\mathbf{S}}_{Zy}-{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)\\ & =n\left({\mathbf{S}}_{\mathrm{Z}\mathrm{y}}^{\prime }\hat{\mathbf{W}}-{\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}\right)\left({\mathbf{S}}_{\mathrm{Z}\mathrm{y}}-{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)\\ & =n\left({\mathbf{S}}_{Zy}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}-{\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}-{\mathbf{S}}_{Zy}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}+{\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)\\ & =n\left({\mathbf{S}}_{Zy}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}-2{\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}+{\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)\end{array}$$
其中
$${\left({\hat{\mathbf{\beta }}}^{\prime }{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}\right)}^{\prime }={\mathbf{S}}_{xy}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}$$
对向量$\hat{\mathbf{\beta }}$求微分得
$$\frac{\partial J(\hat{\mathbf{\beta }},\hat{\mathbf{W}})}{\partial \hat{\mathbf{\beta }}}=n\left(-2{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}+2{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}\right)=0$$
整理
$${\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\hat{\mathbf{\beta }}={\mathbf{S}}_{zX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}$$
根据假定2.4以及$\hat{W}$正定对称，解得
$${\hat{\mathbf{\beta }}}_{GMM}(\hat{\mathbf{W}})={\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{Zy}$$
在大样本条件下${\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}$满秩。在恰好识别 ${\mathbf{S}}_{\mathrm{Z}\mathrm{X}}$为$K\times K$维仿阵，可逆则
$${\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})={\mathbf{S}}_{ZX}^{-1}\underset{=\mathbf{I}}{\underbrace{{\hat{\mathbf{W}}}^{-1}{\mathbf{S}}_{\mathrm{Z}\mathrm{X}}^{\prime -1}{\mathbf{S}}_{\mathrm{Z}\mathrm{X}}^{\prime }\hat{\mathbf{W}}}}{\mathbf{S}}_{Z_y}={\mathbf{S}}_{ZX}^{-1}{\mathbf{S}}_{Zy}={\hat{\mathbf{\beta }}}_{\mathrm{I}\mathrm{V}}$$
即在恰好识别条件下，$GMM$估计量与$IV$估计量等价。因此只有在过度识别条件下，才能用$GMM$方法

---

4 大样本性质

4.1 一致性

在大样本条件下，GMM估计量
$${\mathrm{plim}}_{n\to \infty }{\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})=\mathbf{\beta }$$
收敛于总体回归参数$\mathbf{\beta }$。证明如下：${\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})$的抽样误差为
$$\begin{array}{rl}{\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})-\mathbf{\beta }& ={\left({\mathbf{S}}_{\mathrm{Z}\mathrm{X}}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{\mathrm{Z}\mathrm{X}}\right)}^{-1}{\mathbf{S}}_{\mathrm{Z}\mathrm{X}}^{\prime }\hat{\mathbf{W}}\left(\frac{1}{n}\sum _{i=1}^n{z}_i{y}_i\right)-\mathbf{\beta }\\ & ={\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}\left(\frac{1}{n}\sum _{i=1}^n{z}_i\left({\mathbf{x}}_i^{\prime }\mathbf{\beta }+{\epsilon }_i\right)\right)-\mathbf{\beta }\\ & ={\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}\left({\mathbf{S}}_{\mathrm{Z}\mathrm{X}}\mathbf{\beta }+\frac{1}{n}\sum _{i=1}^n{z}_i{\epsilon }_i\right)-\mathbf{\beta }\\ & ={\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}\overline{\mathbf{g}}\end{array}$$
其中$\overline{\mathbf{g}}\equiv \frac{1}{n}{\sum }_{i=1}^n{\mathbf{g}}_i,{\mathbf{g}}_i\equiv {\mathbf{z}}_i{\epsilon }_i$；${\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}\stackrel{p}{⟶}{\left({\mathbf{\Sigma }}_{ZX}^{\prime }\mathbf{W}{\mathbf{\Sigma }}_{ZX}\right)}^{-1}$；${\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}\stackrel{p}{⟶}{\mathbf{\Sigma }}_{ZX}^{\prime }\mathbf{W}$；$\overline{\mathbf{g}}\stackrel{p}{⟶}\mathrm{E}\left({\mathbf{g}}_i\right)=\mathrm{E}\left({\mathbf{z}}_i{\epsilon }_i\right)=0$；故
$${\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})-\mathbf{\beta }\stackrel{p}{⟶}0$$

---

4.2 渐进正态性

在假定2.5（鞅差分序列假定）条件下，
$$\sqrt{n}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}-\mathbf{\beta }\right)\stackrel{d}{⟶}N\left(0,\mathrm{Avar}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\right)\right)$$
其中
$$\mathrm{Avar}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\right)={\left({\Sigma }_{ZX}^{\prime }\mathbf{W}{\mathbf{\Sigma }}_{ZX}^{\prime }\right)}^{-1}{\mathbf{\Sigma }}_{ZX}\mathbf{W}\mathbf{S}\mathbf{W}{\mathbf{\Sigma }}_{\mathrm{Z}\mathrm{X}}{\left({\mathbf{\Sigma }}_{ZX}^{\prime }\mathbf{W}{\mathbf{\Sigma }}_{\mathrm{Z}\mathrm{X}}\right)}^{-1}$$

$$\mathbf{S}=\mathrm{E}\left({\mathbf{g}}_i{\mathbf{g}}_i^{\prime }\right)=\mathrm{E}\left({\epsilon }_i^2{\mathbf{z}}_i{\mathbf{z}}_i^{\prime }\right),{\mathbf{\Sigma }}_{ZX}\equiv \mathrm{E}\left({\mathbf{z}}_i{\mathbf{x}}_i^{\prime }\right)$$

证明如下：抽样误差、
$${\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})-\mathbf{\beta }={\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}\overline{\mathbf{g}}$$
故
$$\sqrt{n}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})-\mathbf{\beta }\right)={\left({\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }\hat{\mathbf{W}}(\sqrt{n}\overline{\mathbf{g}})$$
在假定2.5，利用中心极限定理
$$\sqrt{n}\overline{\mathbf{g}}\stackrel{d}{⟶}N(0,\mathbf{S})$$
这里$\mathbf{S}\equiv \mathrm{E}\left({\mathbf{g}}_i{\mathbf{g}}_i^{\prime }\right)=\mathrm{E}\left({\epsilon }_i^2{\mathbf{z}}_i{\mathbf{z}}_i^{\prime }\right)$；于是
$$\sqrt{n}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}(\hat{\mathbf{W}})-\mathbf{\beta }\right)\stackrel{d}{⟶}N\left(0,\mathrm{Avar}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\right)\right)$$
由于${\left({\mathbf{S}}_{\mathrm{Z}\mathrm{X}}^{\prime }\hat{\mathbf{W}}{\mathbf{S}}_{ZX}\right)}^{-1}\stackrel{p}{⟶}{\left({\mathbf{\Sigma }}_{ZX}^{\prime }\mathbf{W}{\mathbf{\Sigma }}_{ZX}\right)}^{-1}$；${\mathbf{S}}_{ZX}^{\prime }\hat{W}\stackrel{p}{⟶}{\Sigma }_{ZX}^{\prime }\mathbf{W}$；故
$$\mathrm{Avar}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\right)={\left({\Sigma }_{ZX}^{\prime }\mathbf{W}{\mathbf{\Sigma }}_{ZX}\right)}^{-1}{\mathbf{\Sigma }}_{ZX}^{\prime }\mathbf{W}\mathbf{S}\mathbf{W}{\mathbf{\Sigma }}_{ZX}{\left({\mathbf{\Sigma }}_{ZX}^{\prime }\mathbf{W}{\mathbf{\Sigma }}_{ZX}\right)}^{-1}$$
为夹心估计量。

---

5 最优权重矩阵与估计

在假定2.1，2.2与2.6条件下，对于$\mathbf{\beta }$的任意一致估计量$\hat{\mathbf{\beta }}$，其残差为$e_i\equiv y_i-{\mathbf{x}}_i^{\prime }\hat{\mathbf{\beta }}$；则$s^2\equiv \frac{1}{n}{\sum }_{i=1}^n{e}_i^2$是总体回归函数随机扰动项方差${\sigma }^2\equiv \mathrm{E}\left({\epsilon }_i^2\right)$的一致估计量；且$\hat{S}\equiv \frac{1}{n}{\sum }_{i=1}^n{e}_i^2{z}_i{z}_i^{\prime }$也是$\mathbf{S}\equiv \mathrm{E}\left({\epsilon }_i^2{z}_i{z}_i^{\prime }\right)$的一致估计量。经证明，使$\mathrm{Avar}\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\right)$最小化的最优权重矩阵即为
$$\hat{\mathbf{W}}={\hat{\mathbf{S}}}^{-1}$$
为了得到最优权重矩阵，需要得到关于$\mathbf{\beta }$的一致估计量。显然两阶段最小二乘法（2SLS）能得到参数一致估计量（尽管可能不是最优效率的）；并计算残差估计权重矩阵
$$\hat{\mathbf{W}}={\hat{\mathbf{S}}}^{-1}\equiv (\frac{1}{n}\sum _{i=1}^n{e}_i^2{\mathbf{z}}_i{\mathbf{z}}_i^{\prime }{)}^{-1}$$
将$\hat{\mathbf{W}}$代入目标函数最小化$J\left(\hat{\mathbf{\beta }},{\hat{\mathbf{S}}}^{-1}\right)$，即可得到${\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\left({\hat{\mathbf{S}}}^{-1}\right)$。上述方法称为两步GMM;另一种方法在两步GMM基础上得到的样本残差再次作为权重矩阵$\hat{\mathbf{W}}$的估计量，最小化目标函数$J\left(\hat{\mathbf{\beta }},{\hat{\mathbf{S}}}^{-1}\right)$直至参数收敛为止。

---

6 同方差情形

GMM估计适合非球形扰动假设（异方差与自相关）情形，对于同方差情形$\mathrm{E}\left({\epsilon }_i^2\mid {\mathbf{z}}_i\right)={\sigma }^2>0$，利用迭代期望公式
$$\mathbf{S}\equiv \mathrm{E}\left({\mathbf{z}}_i{\mathbf{z}}_i^{\prime }{\mathbf{\epsilon }}_i^2\right)={\mathrm{E}}_{{\mathbf{z}}_i}\mathrm{E}\left({\mathbf{z}}_i{\mathbf{z}}_i^{\prime }{\mathbf{\epsilon }}_i^2\mid {\mathbf{z}}_i\right)={\mathrm{E}}_{{\mathbf{z}}_i}\left[{\mathbf{z}}_i{\mathbf{z}}_i^{\prime }\mathrm{E}\left({\mathbf{\epsilon }}_i^2\mid {\mathbf{z}}_i\right)\right]={\sigma }^2\mathrm{E}\left({\mathbf{z}}_i{\mathbf{z}}_i^{\prime }\right)$$
此时$\tilde{\mathbf{S}}\equiv s^2{\mathbf{S}}_{ZZ}$是$\mathbf{S}$的一致估计量，其中${\mathbf{S}}_{ZZ}\equiv \frac{1}{n}{\mathbf{Z}}^{\prime }\mathbf{Z}$。将${\tilde{\mathbf{S}}}^{-1}={\left(s^2{\mathbf{S}}_{ZZ}\right)}^{-1}$作为最优权重矩阵，得到
$$\begin{array}{rl}{\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\left({\tilde{\mathbf{S}}}^{-1}\right)& ={\left({\mathbf{S}}_{ZX}^{\prime }{\left(s^2{\mathbf{S}}_{ZZ}\right)}^{-1}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }{\left(s^2{\mathbf{S}}_{ZZ}\right)}^{-1}{\mathbf{S}}_{Zy}\\ & ={\left({\mathbf{S}}_{ZX}^{\prime }{\mathbf{S}}_{ZZ}^{-1}{\mathbf{S}}_{ZX}\right)}^{-1}{\mathbf{S}}_{ZX}^{\prime }{\mathbf{S}}_{ZZ}^{-1}{\mathbf{S}}_{Zy}\end{array}$$
其中${\mathbf{S}}_{ZX}\equiv \frac{1}{n}{\mathbf{Z}}^{\prime }\mathbf{X},{\mathbf{S}}_{ZZ}\equiv \frac{1}{n}{\mathbf{Z}}^{\prime }\mathbf{Z},{\mathbf{S}}_{Zy}\equiv \frac{1}{n}{\mathbf{Z}}^{\prime }\mathbf{y}$，故
$$\begin{array}{rl}{\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}}\left({\tilde{\mathbf{S}}}^{-1}\right)& ={\left(\frac{1}{n}{\mathbf{X}}^{\prime }\mathbf{Z}\cdot n{\left({\mathbf{Z}}^{\prime }\mathbf{Z}\right)}^{-1}\cdot \frac{1}{n}{\mathbf{Z}}^{\prime }\mathbf{X}\right)}^{-1}\frac{1}{n}{\mathbf{X}}^{\prime }\mathbf{Z}\cdot n{\left({\mathbf{Z}}^{\prime }\mathbf{Z}\right)}^{-1}\frac{1}{n}{\mathbf{Z}}^{\prime }\mathbf{y}\\ & ={\left({\mathbf{X}}^{\prime }\mathbf{Z}{\left({\mathbf{Z}}^{\prime }\mathbf{Z}\right)}^{-1}{\mathbf{Z}}^{\prime }\mathbf{X}\right)}^{-1}{\mathbf{X}}^{\prime }\mathbf{Z}{\left({\mathbf{Z}}^{\prime }\mathbf{Z}\right)}^{-1}{\mathbf{Z}}^{\prime }\mathbf{y}\equiv {\hat{\mathbf{\beta }}}_{2\mathrm{S}\mathrm{L}}\end{array}$$
在同方差假设下两步GMM估计等价于2SLS估计；此外，权重矩阵不需要第一步估计，只需令${\hat{\mathbf{S}}}^{-1}={\mathbf{S}}_{ZZ}^{-1}$；故2SLS也称为一步GMM

---

7 过度识别检验

GMM估计适用于工具变量过度识别情形（工具变量个数 > 内生解释变量个数），如果工具变量都是外生的，则目标函数$J\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}},{\hat{\mathbf{S}}}^{-1}\right)$距离$0$应该不远；反之，若某些工具变量存在内生性，目标函数$J\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}},{\hat{\mathbf{S}}}^{-1}\right)$可能离0的距离更远。因此$J\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}},{\hat{\mathbf{S}}}^{-1}\right)$可以作为过度识别的统计量：
$$J\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}},{\hat{\mathbf{S}}}^{-1}\right)\stackrel{d}{⟶}{\chi }^2(L-K)$$
其中$(L-K)$表示过度识别的约束个数。原假设为所有工具变量均外生。在同方差假设下，$J\left({\hat{\mathbf{\beta }}}_{\mathrm{G}\mathrm{M}\mathrm{M}},{\hat{\mathbf{S}}}^{-1}\right)$与Sargan统计量相同。

---

8 非正交性识别

如果拒绝所有变量均外生，则需要进一步识别出哪些工具变量与扰动项存在相关性或非正交性，设$L$维度的工具变量${\mathbf{z}}_i$种前$L_1(L_1\ge K)$个工具变量满足外生性，后$L-L_1$个工具变量存在非正交性。分别计算$L$个工具变量与$L-L_1$个工具变量的$J$统计值，并作差构造$C$统计量（或GMM距离，或Sargan差）
$$C\equiv J-J_1\stackrel{d}{⟶}{\chi }^2\left(L-L_1\right)$$
$L-L_1$为不满足外生性工具变量个数。

---

9 自相关情形

当存在自相关时（时间序列）也可以用GMM方法，在估计时采用自相关异方差稳健标准误推断即可。

---

-END-

参考文献

陈强.高级计量经济学[M].高等教育出版社