多重共线性问题

多重共线性指自变量间有现象关系,这会导致模型不稳定,因为建模没有考虑到每个变量间的线性关系。但是适当的共线性是可行的比如衍生变量。多重共线性还会导致的问题是只有线性相关的一类变量入模了,其他维度的变量被挡在了外面。

多重共线性的监测
1、可将自变量逐一作为因变量做线性回归,其中 R 2 R^{2} R2高的说明有多重共线性问题。 R 2 R^{2} R2=SSR/SSE,预测与均值的差/真实值与均值的差。
2、VIF = 1/1- R 2 R^{2} R2 ,VIF大于10说明共线性严重。

解决办法
1、手动去除
2、逐步回归法
3、岭回归:以线性回归为例,对参数β的估计是最小二乘法,求真实值-模型值的最小值来估计参数。在这里插入图片描述
但是在存在多重共线性的情况下可能存在共线性的几个变量对应的参数值比较大,而其他维度变量的参数分到的权重就很小。岭回归方法加入了λ*βi的平方,这样限制了多重共线性情况下的βi不能很大,其他维度变量能分到一定的权重。
在这里插入图片描述

4、降维、主成分分析、因子分析合并变量

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值