原论文:INCORPORATING NESTEROV MOMENTUM INTO ADAM
https://openreview.net/pdf?id=OM0jvwB8jIp57ZJjtNEZ
原论文中对数学演变过程介绍过于简单,比较难理解。下面给出了详细的推导过程。
原论文:INCORPORATING NESTEROV MOMENTUM INTO ADAM
https://openreview.net/pdf?id=OM0jvwB8jIp57ZJjtNEZ
原论文中对数学演变过程介绍过于简单,比较难理解。下面给出了详细的推导过程。