多重共线性：python计算VIF以及使用vif做因子独立性检验的方法

最新推荐文章于 2023-12-25 18:28:58 发布

夏天7788

最新推荐文章于 2023-12-25 18:28:58 发布

阅读量8.2k

点赞数 2

分类专栏：机器学习之回归文章标签：算法

本文链接：https://blog.csdn.net/xuxiatian/article/details/111517040

版权

通过VIF(Variance Inflation Factor)可以检验因子间的多重共线性。一般做法是，对每个因子与其他因子进行回归，计算VIF值，若发现VIF显著偏高则考虑剔除该因子，以提升模型解释力。在实际应用中，关注VIF值的整体分布，而非固定阈值，若有显著离群的高VIF值，则进行调整。在本次测试中，所有因子的VIF值表现良好，未找到需要剔除的因子。

摘要由CSDN通过智能技术生成

参考：https://www.zhihu.com/question/270451437/answer/405814593

https://www.cnpython.com/qa/38203

import numpy as np
import scipy as sp

a = [1, 1, 2, 3, 4]
b = [2, 2, 3, 2, 1]
c = [4, 6, 7, 8, 9]
d = [4, 3, 4, 5, 4]

ck = np.column_stack([a, b, c, d])
cc = sp.corrcoef(ck, rowvar=False)
VIF = np.linalg.inv(cc)
VIF.diagonal()

from statsmodels.stats.outliers_influence import variance_inflation_factor
from statsmodels.tools.tools import add_constant

df = pd.DataFrame(
    {'a': [1, 1, 2, 3, 4],
     'b': [2, 2, 3, 2, 1],
     'c': [4, 6, 7, 8, 9],
     'd': [4, 3, 4, 5, 4]}
)

X = add_constant(df)
>>> pd.Series([variance_inflation_factor(X.values, i) 
               for i in range(X.shape[1])],