深度学习-优化策略目录
前言
本深度学习系列是根据paddle飞浆所简单整理的，需要可自行跳转学习。本节是关于深度学习-优化策略的相关内容，包括梯度下降算法背景、Momentum、NAG、AdaGrad、AdaDelta、RMSProp、Adam、AdaMax、Nadam、AMSGrad、AdaBound、AdamW、RAdam、Lookahead等。这是只会简单记录小部分知识，目的是方便以后复习。
本文全面梳理了深度学习中常用的优化算法，包括梯度下降、Momentum、NAG、AdaGrad、AdaDelta、RMSProp、Adam、AdaMax、Nadam、AMSGrad、AdaBound、AdamW、RAdam和Lookahead等，帮助读者理解和掌握这些优化技术的核心思想和应用场景。
1051
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
