梯度下降

最新推荐文章于 2022-05-13 22:13:59 发布

cyendra

最新推荐文章于 2022-05-13 22:13:59 发布

阅读量818

点赞数

分类专栏：机器学习

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/cyendra/article/details/44150733

版权

机器学习专栏收录该内容

7 篇文章 0 订阅

订阅专栏

$h(x)=\sum_{i=0}^n\theta_i x_i$
$J(\theta)=\frac{1}{2}\sum_{i=1}^{m}(h_\theta(x^{(i)})-y^{(i)})^2$
$\theta_i:=\theta_i-\alpha\frac{\partial }{\partial\theta_i}J(\theta)$

\partial \partial θ i J (θ) = \partial \partial θ i 1 2 (h θ (x) - y) 2 = 2 \cdot 1 2 (h θ (x) - y) \cdot \partial \partial θ i (h θ (x) - y) = (h θ (x) - y) \cdot x i

$\begin{align*} \frac{\partial }{\partial\theta_i}J(\theta)&=\frac{\partial }{\partial\theta_i}\frac{1}{2}(h_\theta(x)-y)^2 \\ &=2\cdot \frac{1}{2}(h_\theta(x)-y)\cdot\frac{\partial }{\partial\theta_i}(h_\theta(x)-y) \\ &=(h_\theta(x)-y)\cdot x_i \end{align*}$

θi:=θi−α(hθ(x)−y)⋅xi $\theta_i:=\theta_i-\alpha(h_\theta(x)-y)\cdot x_i$

θi:=θi−α∑mj=1(hθ(x(j))−y(j))⋅x(j)i $\theta_i:=\theta_i-\alpha\sum_{j=1}^{m}(h_\theta(x^{(j)})-y^{(j)})\cdot x_i^{(j)}$

θ=(xTx)−1xTy $\theta=(x^ \mathrm{T}x)^{-1}x^\mathrm{T}y$

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。