除了岭回归，最常被提到的模型还有Lasso。Lasso全称最小绝对收缩和选择算子（least absolute shrinkage and selection operator），由于这个名字过于复杂，所以简称为Lasso。和岭回归一样，Lasso是被创造来作用于多重共线性问题的算法，不过Lasso使用的是系数ω的L1范式（L1范式是系数ω的绝对值）乘以正则化系数α，所以Lasso的损失函数表达式为：
m i n ω ∣ ∣ X ω − y ∣ ∣ 2 2 + α ∣ ∣ ω ∣ ∣ 1 \large\boldsymbol{\mathop{min}\limits_\omega||X\omega-y||_2\,^2+\alpha||\omega||_1} ωmin
机器学习：线性模型-多重共线性问题的解决-Lasso
最新推荐文章于 2023-08-04 07:32:06 发布
Lasso（最小绝对收缩和选择算子）是一种用于解决多重共线性问题的算法，其损失函数包含L1范式正则项。虽然Lasso不能直接解决特征间的精确相关性问题，但在实际中，通过调整正则化参数α，它可以限制参数估计的大小，防止因多重共线性导致的模型失准。Lasso的L1正则化特性还使其成为特征选择的有效工具。
最低0.47元/天 解锁文章
扫一扫
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
