本文介绍了scikit-learn库中多种回归算法，包括Ordinary Least Squares、Ridge Regression、Lasso Regression、Multi-task Lasso、Elastic Net等，并探讨了它们的特点和应用场景。Lasso Regression通过L1正则化产生稀疏解，适用于处理高维数据和特征相关问题。Elastic Net结合L1和L2正则化，适用于相关特征的场景。文章还提及了LARS算法及其在LassoLars中的应用，以及Orthogonal Matching Pursuit (OMP)和Bayesian Regression。
之前学machine learning只用到了最小平方回归法，或者是加上regularization（L1和L2），最近在学scikit-learn，发现里面提供了很多种回归算法。在学习时稍微总结了下。
1. Ordinary Least Squares
最小二乘法
2. Ridge Regression
其实就是加上了L2 regularization
scikit-learn不仅提供了Ridge()类，还提供了一个RidgeCV类做交叉验证用：
>>> from sklearn import linear_model
>>> reg = linear_model.RidgeCV(alphas=[0.1, 1.0, 10.0])
>>> reg.fit([[0, 0], [0, 0], [1, 1]], [0, .1, 1])
RidgeCV(alphas=[0.1, 1.0, 10.0], cv=None, fit_intercept=True, scoring&
最低0.47元/天 解锁文章
1202
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
