![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
梯度下降
文章平均质量分 92
顧辰
这个作者很懒,什么都没留下…
展开
-
梯度下降(二):自适应梯度(AdaGrad)、均方根传递(RMSProp)、自适应增量(AdaDelta)、自适应矩估计(Adam)、Nesterov自适应矩估计(Nadam)
梯度下降(二):自适应学习率(AdaGrad)、均方根传递(RMSProp)、自适应增量(AdaDelta)、自适应性矩估计(Adam)Nesterov自适应性矩估计(Nadam)前言自适应梯度(AdaGrad / Adaptive Gradient)均方根传递(RMSProp / Root Mean Square Propagation)自适应增量(AdaDelta)自适应矩估计(Adam /...原创 2020-04-26 02:05:49 · 8255 阅读 · 5 评论 -
梯度下降(一):批梯度下降、随机梯度下降、小批量梯度下降、动量梯度下降、Nesterov加速梯度下降法 Matlab 可视化实现
梯度下降、随机梯度下降、小批量梯度下降、动量梯度下降、Nesterov加速梯度下降法前言梯度下降法(Gradient Descent / GD)单变量线性回归模型(Univariate Linear Regression)批梯度下降法(Batch Gradient Descent)随机梯度下降法(Stochastic Gradient Descent / SGD)小批量梯度下降(Mini-batc...原创 2020-04-23 01:23:42 · 9175 阅读 · 3 评论