weixin_46897467的博客

在此之前我们先解释变量高相关的本质。多重共线性问题描述的是在线性回归模型中解释变量（X）之间具有高度相关性的现象。当自变量之间存在这种高相关时，会导致模型的参数估计精度降低或难以准确估计。我们称完全多重共线性情况是指矩阵XTX的情况。构建一个线性回归模型YXβε其中Y为n×1的矩阵，X为n×p的矩阵，ε为误差向量。通过LS（最小二乘估计）可以得到参数估计为β​XTX−1XTY从参数估计的表达式中不难发现，当XTX。