python线性加权回归_如何用spss做加权最小二乘回归及岭回归

讲加权最小二乘回归之前，我们首先还是举个例子。假设我们想考察全国三十一个省的某种疾病的发病率和每个省的面积，平均气温等的关系，那么我们知道，这三十一个省的人口肯定是不同的。而且差距还蛮大。并且最重要的，我们知道，发病率的高低很可能和人口的多少有关系(考虑传染性，人口密度什么的)，那么这个时候我们直接用最小二乘回归就不是那么合适了，我们更好的选择是加权最小二乘回归法。也就是说，当样本和某一个权数存在某种关系的时候，我们就用加权最小二乘回归。

在上一节中我们提到过在线性回归主面板最下边有一个WLS权重框框。在加权最小二乘回归方法里边，我们就要用到这个框框了。我们在设置变量的时候除了自变量和因变量，还要设置一个权数变量(在上述的医学例子里，这个变量可以是每个省的人口。在其他一些金融案例里边，比方研究高价股票和低价股票的波动时，由于这两种股票在其他因素相同时的波动幅度不同，因此需要设一个权数，这个权数可能就是自己设定的了。)然后我们把这个权数变量选入到WLS权重框里边。其他过程和一般线性回归一致。

解释结果的时候也和一般线性回归类似，只是有一个小小的地方需要大家注意一下。我们知道，模型汇总表里边的决定系数是一个比较重要的参考数据。它会告诉你你的方程能解释你的模型的百分之多少，从而从侧面考察了你的方程的合理性。但是不幸的是，这个决定系数在加权线性回归里边出现了比较严重的偏差。这个和决定系数的计算方法有关系。因此假如我们用同样的数据做一遍加权的回归，和一遍不加权的回归，往往会发现不加权的方程决定系数大于加权的。但是这个并不能代表不加权的方程就一定比加权后的准确。实际上加权以后的模型和不加权的模型到底孰优孰劣，好的那个方程又能好多少，这些问题spss都不能给出直接的数据。因此在使用加权最小二乘回归的时候应当格外谨慎。<