机器学习之路——多重共线性

1.什么是多重共线性？

自变量与自变量之间的相关性。

2.多重共线性对回归模型的影响？

我们可能得出单个参数没有一个是显著不同于零的结论。如果存在高度多重共线性，，最小二乘估计可能与被估参数的符号完全相反。

3.用计算特征根发现多重共线性。

在R中用Kappa()函数，若k<100,多重共线性程度小；若100<k<1000,则存在中等或者较强的多重共线性，若k>1000，存在严重的多重共线性。

k(XTX)=max(lambda(XTX))/min(lambda(XTX)),  刻画了特征值的差异大小。

在R中还有用VIF（方差膨胀因子检测多重共线性的）