L1和L2正则化区别

L1正则化. 优点:输出具有稀疏性,即产生一个 稀疏模型 ,进而可以用于特征选择;一定程度上,L1也可以防止过拟合. 缺点:但在非稀疏情况下计算效率低.

L2正则化 :. 优点:计算效率高(因为存在解析解);可以防止模型 过拟合 (overfitting). 缺点:非稀疏输出;无特征选择. 稀疏模型和特征选择 :如果特征符合稀疏性,说明特征矩阵很多元素为0,只有少数元素是非零的矩阵,表示只有少数特征对这个模型有贡献,绝大部分特征是没有贡献的,或者贡献微小(因为它们前面的系数是0或者是很小的值,即使去掉对模型也没有什么影响),此时我们就可以只关注系数是非零值的特征。. 这就是稀疏模型与特征选择的关系。.

参考: www.cnblogs.com/LXP-Never/p/10918704.html

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值