多元线性回归之基本假定的验证和处理办法

前言

多元线性回归模型统计推断结果的可靠性，建立在一些统计假设的基础上，只有在假设条件满足时，模型输出结果才成立，本文将展开讨论多元线性回归有哪些基本假设、如何检验假设是否成立、以及当基本假设不满足时的处理方案。同时需要说明的是，轻微违背假设并不会对主要的分析结果产生重大的影响，这是最小二乘法的一个特点，但是如果严重违背基本假设就会极大的破坏结果的合理性。

 

一 基本假定

（一）误差的假定

1、服从正态分布

      标准化残差与每个预测变量都不应该相关、与拟合值也不应该相关，此时误差服从正态分布；否则，模型存在内生性问题，内生性会破坏参数估计的“一致性”。

      内生性产生的原因有：

          a.测量误差：指的是模型使用的解释变量的数值和真实数据有误差（被解释变量的测量误差不会导致内生性）

          b.遗漏解释变量：现实问题总是复杂的，一般情况下，谁也没办法找到所有能影响被解释变量的变量，遗漏解释变量几乎是不可避免的。但如果被遗漏的解释变量不光对被解释变量有影响，还对某个解释变量有影响，内生性问题就出现了。

         c.互为因果：被解释变量能够反过来影响解释变量的情况被称为互为因果，有时也被称为反向因果。

         d.动态面板偏差：动态面板是指面板数据模型中被解释变量的滞后项作为解释变量。由于被解释变量与误差项有关，被解释变量的滞后项当然也与误差项有关，也就是说该解释变量（被解释变量的滞后项与误差项相关）。

2、均值为0

      （待补充）

3、等方差假定

      或方差齐性假定，误差有相同（但未知）的方差，如果这一假定不满足，即：随机误差项具有不同的方差，则称线性回归模型存在异方差性。产生的原因主要有：

      a.模型中遗漏了某些解释变量

      b.模型函数形式的设定误差

      c.样本数据的测量误差

     d.随机因素的影响

4、相互独立

  （自相关问题）标准的关于模型误差的假设是这样的：第i个误差和第j个误差是不相关的；误差项的相关性暗示这样一种可能性：现在建立的模型还没有将数据中所包含的全部信息表达出来；当观察数据具有自然顺序时（如时间顺序），这种误差间的相关性就称为自相关。在进行时间序列的数据分析的时候，应特别关注误差的自相关和季节性效应，同时探索利用滞后的预测变量的可能性。产生自相关的原因是多方面的：

       a.在时间或空间上，相邻数据的残差趋于相似（又叫纯自相关）

       b.遗漏解释变量，通常，自相关性是由遗漏了与时间相关的变量引起的，即如果被忽略的变量的相继值之间是相关的，那么相应的观测误差之间也会出现相关性，

 

tips：当模型存在异方差或自相关对模型的影响包括：

      a. 回归系数的最小二乘估计是无偏的，但是不再具有最小方差；

      b.方差和回归系数的标准差会被严重低估；即比实际值小很多，从而给出一个假想的精确估计；

      c.置信区间和通常采用的各种显著性检验的结论，严格来说不再是可信的。

（二）预测变量的假定

1、非随机性:预测变量的非随机性，即他们的取值是固定的，在生产环境中显然这种假定不满足。此时模型的理论结果仍然成立，但对结果的解释必须修改，当预测变量是随机变量时，所有推断都是关于观测数据的条件推断。

2、取值没有随机误差：这个假定几乎是不能满足的，测量误差的存在会降低预测的精度，影响误差的方差，负相关系数以及单个回归系数的估计。

非随机