scikit-learn中几种regression算法

之前学machine learning只用到了最小平方回归法，或者是加上regularization（L1和L2），最近在学scikit-learn，发现里面提供了很多种回归算法。在学习时稍微总结了下。

1. Ordinary Least Squares

最小二乘法

2. Ridge Regression

其实就是加上了L2 regularization

scikit-learn不仅提供了Ridge()类，还提供了一个RidgeCV类做交叉验证用：

>>> from sklearn import linear_model
>>> reg = linear_model.RidgeCV(alphas=[0.1, 1.0, 10.0])
>>> reg.fit([[0, 0], [0, 0], [1, 1]], [0, .1, 1])       
RidgeCV(alphas=[0.1, 1.0, 10.0], cv=None, fit_intercept=True, scoring&