多重共线性——岭回归定义+岭迹分析+岭参数选择

1、岭回归的定义

先看一个例子：

x1、x2是给定的，模拟的方法产生10个正态随机数，作为误差项，见第（3）行。然后再由回归模型计算出10个y值。


添加k

k不是唯一确定的，下面是不同的k对应的参数值：

图示：

当k为0时，即普通线性回归，参数较大，k逐渐变大，B2由负变正，并且两参数的绝对值都变小，并且稳定下来。