![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
优化算法
Monky丶D
记性不好,做个笔记
展开
-
动量梯度下降法(gradient descent with momentum)
简介动量梯度下降法是对梯度下降法的改良版本,通常来说优化效果好于梯度下降法。对梯度下降法不熟悉的可以参考梯度下降法,理解梯度下降法是理解动量梯度下降法的前提,除此之外要搞懂动量梯度下降法需要知道原始方法在实际应用中的不足之处,动量梯度下降法怎样改善了原来方法的不足以及其具体的实现算法。依次从以下几个方面进行说明:小批量梯度下降法(mini-batch gradient descent)指数...原创 2018-10-28 10:57:35 · 38521 阅读 · 13 评论 -
梯度下降法
       机器学习方法都是由模型,策略和算法构成,即即机器学习方法由三要素构成,可以简单地表示为:方法=模型+策略+算法; 当我们选定了...原创 2018-08-06 18:28:55 · 3496 阅读 · 0 评论