机器学习第一课week3-正则化方法

于 2023-12-01 21:14:26 发布
阅读量29 收藏
点赞数
文章标签： 机器学习 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_51646975/article/details/134743569
版权

由于不知道哪个特征值是重要特征，不知道哪个参数需要正则化，所以对每个特征值都进行正则化。

加入正则化项后的线性回归成本函数如下：

J(w,b)=\frac{1}{2m}\sum_{i=1}^{m}(f_{w,b}(x^{i})-y^{i})^{2}+\frac{\lambda }{2m}\sum_{j=1}^{n}w_{j}^{2}

逻辑回归的成本函数类似，只需将损失函数替代即可

加入正则化项后的线性回归梯度下降:

\frac{\partial }{\partial w_{j}}J(w,b)=\frac{1}{m}\sum_{i=1}^{m}(f_{w,b}((x^{i})_-y^{i}))*x_{j}^{i}+\frac{\lambda }{m}w_{j}

w_{j}=w_{j}-\alpha [\frac{1}{m}\sum_{i=1}^{m}(f_{(w,b)}(x^{i})-y^{i})x^{i}+\frac{\lambda }{m}w_{j}]

逻辑回归的类似。

吃喵椒的狗酱
关注
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值