sklearn机器学习：岭回归Ridge

在sklearn中，岭回归由线性模型库中的Ridge类来调用：

Ridge类的格式

sklearn.linear_model.Ridge (alpha=1.0, fit_intercept=True, normalize=False, copy_X=True, max_iter=None, tol=0.001, solver=’auto’, random_state=None)
和线性回归相比，岭回归的参数稍微多了那么一点，但是真正核心的参数就是正则项系数$\alpha$，其他参数是希望使用最小二乘法之外的求解方法求解岭回归的时候才需要的，通常完全不会去用这些参数。所以，只需了解$\alpha$的用法即可。
之前的博文《sklearn机器学习:线性回归LinearRegression》中，在加利佛尼亚房屋价值数据集上使用线性回归，得出的结果大概是训练集上的拟合程度是60%，测试集上的拟合程度也是60%左右，这个很低的拟合程度是不是由多重共线性造成的呢？统计学会通过VIF(方差膨胀因子)或者各种检验来判断数据是否存在共线性，而在机器器学习中，可以使用模型来判断——如果一个数据集在岭回归中使用各种正则化参数取值下，模型表现没有明显上升（比如出现持平或者下降），则说明数据没有多重共线性，顶多是特征之间有一些相关性。反之，如果一个数据集在岭回归的各种正则化参数取值下，表现出明显的上升趋势，则说明数据存在多重共线性。
接下来，用加利佛尼亚房屋价值数据集验证一下：

#岭回归验证
import numpy as np
import pandas as pd
from sklearn.linear_model import Ridge, LinearRegression, Lasso
from sklearn.model_selection import train_test_split as TTS
from sklearn.datasets import fetch_california_housing as fch
import matplotlib.pyplot as plt
housevalue = fch()
X = pd.DataFrame(housevalue.data)
y = housevalue.target
X.columns = ["住户收⼊入中位数","房屋使⽤用年年代中位数","平均房间数⽬目"
,"平均卧室数⽬目","街区⼈人⼝口","平均⼊入住率","街区的纬度","街区的经度"]
X.head(3)

#划分数据集
Xtrain,Xtest,Ytrain,Ytest = TTS(X,y,test_size=0.3,random_state=420)
#数据集索引恢复
for i in [Xtrain,Xtest]:
    i.index = range(i.shape[0])
#使用岭回归建模
reg = Ridge(alpha=1).fit(Xtrain,Ytrain)
reg.score(Xtest,Ytest)

0.6043610352312276

#交叉验证下，与线性回归相比，岭回归的结果如何变化？
alpharange = np.arange(1,1001,