L1正则化 L2正则化的Python 实现

上一篇文档 https://blog.csdn.net/xingzhe2001/article/details/86316712 介绍了L1 L2正则化

本文介绍L1, L2 正则化的实现

L1正则化

\lambda \sum_{i=1}^n|\theta_i|

代码

def L1Norm(l, theta):
    return  np.dot(np.abs(theta), np.ones(theta.size)) * l

def L1NormPartial(l, theta):
    return np.sign(theta) * l

以线性回归为例,J函数现在变成了

L2正则化

\lambda \sum_{i=1}^n \theta_i^2

def L2Norm(l, theta):
    return  np.dot(theta, theta) * l 

def L2NormPartial(l, theta):
    return theta * l

以线性回归为例 J函数变为


                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值