多重判定系数怎么求_评估多重共线性 vif

需要深入理解的统计概念还有很多呀, 继续努力.

刚才突然搞明白了vif  就是下面这个帖子看到最后突然通了

https://cloud.tencent.com/developer/news/71265

我记得研究生的时候, 项目里就会说到这个词multicollinearity多重共线性, 拗口得狠, 我还练了好久呢. 简言之, 就是自变量之间的相关性, 在线性模型里有个假设: 自变量之间不相关或者相关性较低. 用逻辑回归这种广义线性模型的时候也要评估多重共线性, 如果相关性过大就需要删减变量. 但是我就只会用两两相关性pearson系数去筛选变量, 工作后认识了vif但是还没用过.

方差膨胀系数(variance inflation factor, VIF)是衡量多元线性回归模型中复 (多重)共线性严重程度的一种度量。

这里R2是评估回归模型拟合程度的判定系数, 是咋么来的呢?

方差膨胀系数是按照每个自变量来的, 比如评估第一个自变量x1的时候, 就以x1当作y, 其他自变量还是自变量们, 这样出来一个回归模型, 这个回归模型会有一个判定系数(coefficient of determination)R2, 反映这个回归方程自变量变化可以解释因变量(x1)变化的百分比.

公式可以看出R2较大, VIF也会较大. 一般VIF大于10就说明多重共线性大, 要把这个变量删去. 就是因为R2过大, 比如80%或者90% , 我刚才突然想通的就是这里, 这就意味着这个自变量基本可以用剩下的自变量们替代, 所以我们就不需要这个自变量了, 它就可以下岗了. 我觉得这种思路是最好理解的! 

与皮尔斯系数的区别

In short, 这个指标在衡量的时候, 都是把单一自变量单独拎出来, 看和剩余多个自变量的相关性( 或者说被其余自变量替代性). 

而皮尔斯系数只能评估两两之间的相关性, 只能一对一, 无法一对多.