Mini-Batch Gradient Descent介绍以及如何决定Batch Size
Mini-Batch Gradient Descent介绍以及如何决定Batch Size
随机梯度下降是目前训练深度学习模型主流的方法。
有三种主要的梯度下降方法,如何决定使用哪一种可能让人困惑。
这在篇文章里,你将看到大部分情况下使用的梯度下降方法以及使用方式。
读完本文,你将知道:
从宏观理解梯度下降运行的原理batch,stochastic和mini-batc
翻译
2017-10-30 17:23:08 ·
14337 阅读 ·
1 评论