岭回归

岭回归

一.什么是岭回归

之前，大体看了并了解了线性回归的东西，并在之后的学习中，大体直到了过拟合以及正则化的一些概念。需要指出的是：线性回归：Linearregression是很容易出现过拟合的。为了处理过拟合，岭回归就是一个很不错的选择。

所谓岭回归，本质上就是一个带有正则化的线性回归（其实用的是L2正则化）。是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法。
关于岭回归底层的一些内容，参考这个文章：线性回归的一些补充第三部分

二.岭回归的使用

在sklearn中，为我们提供了相关的API

sklearn.linear_model.Ridge

sklearn.linear_model.Ridge(alpha=1.0