LASSO回归通过L1正则化实现变量筛选和复杂度调整，防止过度拟合。其关键参数alpha控制正则项强度，通过坐标下降法求解。适用于高维稀疏特征数据的场景，可用于特征选择。sklearn库中的Lasso模型提供了多种求解器，可通过调整alpha、max_iter等参数进行优化。
算法介绍
LASSO是由1996年Robert Tibshirani首次提出，全称Least absolute shrinkage and selection operator。该方法是一种压缩估计。它通过构造一个惩罚函数得到一个较为精炼的模型，使得它压缩一些回归系数，即强制系数绝对值之和小于某个固定值；同时设定一些回归系数为零。因此保留了子集收缩的优点，是一种处理具有复共线性数据的有偏估计。它通过构造一个惩罚函数，可以将变量的系数进行压缩并使某些回归系数变为0，进而达到变量选择的目的。
Lasso回归是在损失函数后，加L1正则化，如下所示：
m为样本个数，k为参数个数，其中
为L1正则化。
算法优势
LASSO回归的特点是在拟合广义线性模型的同时进行变量筛选(variable selection)和复杂度调整(regul
最低0.47元/天 解锁文章
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
