【计量经济学导论】04. 多重共线性

多重共线性

通过前面的三篇笔记，我们基本上搭建了一个计量经济学的分析框架，即模型设定、基本假定、参数估计、统计性质、假设检验。其中，基本假定的满足是保证一切计量分析合理性的前提条件。在这一系列的笔记中，我们都主要参考伍德里奇关于基本假定的表述，可以参考笔记《计量经济学导论02：多元回归模型》中的 MLR.1 至 MLR.6 。从本节开始，我们开始讨论违背基本假定的问题，即如果我们的样本数据没有我们认为的那么理想，我们又该作何处理。

多重共线性的含义

我们在经典假定 MLR.3 中曾提出，多元回归模型应满足不存在完全共线性的假设。在实际应用中，共线性问题是多元回归模型可能存在的一类现象，分为完全共线性和多重共线性两种。完全共线性指的指多元回归模型中的一些或全部解释变量之间存在一种确定的线性关系，而多重共线性指的是一些或全部解释变量之间存在一种不完全但高度相关的线性关系。

注意一点，如果模型中出现了完全共线性，则违背了 MLR.3 的假定；如果模型中出现了多重共线性，则不违背任何一条经典假定，只是估计效果没有那么好而已。认清这一点非常重要，对我们分析多重共线性下参数估计的统计性质有很大的帮助。下面我们给出严格的定义。

完全共线性

对于解释变量 $X_1,X_2,\cdots ,X_k$ ，如果存在不全为 $0$ 的常数 ${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_k$，使得
$${\lambda }_1{X}_{i1}+{\lambda }_2{X}_{i2}+...+{\lambda }_k{X}_{ik}=0,i=1,2,\cdots ,n,$$

在矩阵形式中，有 $\mathrm{r}(\mathbf{X})<k+1$ ，这表明数据矩阵 $\mathbf{X}$ 中至少有一个列向量可以用其余的列向量线性表示，此时解释变量 $X_1,X_2,\cdots ,X_k$ 中存在完全共线性。

多重共线性

对于解释变量 $X_1,X_2,\cdots ,X_k$ ，如果存在不全为 $0$ 的常数 ${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_k$，使得
$${\lambda }_1{X}_{i1}+{\lambda }_2{X}_{i2}+\cdots +{\lambda }_k{X}_{ik}+v_i=0,i=1,2,\cdots ,n,$$
其中，$v_i$ 是随机误差项，这表明中解释变量 $X_1$