lasso回归_写给初学者的LASSO回归

LASSO回归是正则化线性回归的一种,用于防止过拟合并进行特征选择。本文深入介绍了LASSO算法,并通过游轮数据集案例展示了如何实现LASSO回归,包括数据预处理、模型训练和结果可视化。通过调整正则化参数α,可以控制模型复杂度,当α增大时,更多权重趋于零。
摘要由CSDN通过智能技术生成
e55ab0f0e9acadfb737db176ef7570ad.png

LASSO回归是对回归算法正则化的一个例子。正则化是一种方法,它通过增加额外参数来解决过拟合问题,从而减少模型的参数、限制复杂度。正则化线性回归最常用的三种方法是岭回归、最小绝对值收敛和选择算子(LASSO)以及弹性网络回归。

在本文中,我将重点介绍LASSO,并且对岭回归和弹性网络回归做简单的扩展。

假设我们想在一个数据集上建立一个正则化回归模型,这个数据集包含n个观察和m个特征。

LASSO回归是一个L1惩罚模型,我们只需将L1范数添加到最小二乘的代价函数中:

df0beafd357dc591ae4d2890fbaae119.png

看这里

d5d941a2ac2b2d47be1ab64cf96a6f35.png

通过增大超参数α的值,我们加强了模型的正则化强度,并降低了模型的权重。请注意,没有把截距项w0正则化,还要注意α=0对应于标准回归。

通过调整正则化的强度

  • 1
    点赞
  • 29
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值