- 三者的区别:
- (1)iteration:表示1次迭代,每次迭代更新1次网络结构的参数;
- (2)batch_size:1次迭代所使用的样本量;
- (3)epoch:1个epoch表示过了1遍训练集中的所有样本。
需要补充的是,在深度学习领域中,常用随机梯度下降算法(Stochastic Gradient Descent, SGD)训练深层结构,它有一个好处就是并不需要遍历全部的样本,当数据量非常大时十分有效。此时,可根据实际问题来定义epoch,例如定义10000次迭代为1个epoch,若每次迭代的batch_size设为256,那么1个epoch相当于过了2560000个训练样本。
<link rel="stylesheet" href="https://csdnimg.cn/release/phoenix/template/css/markdown_views-ea0013b516.css">
</div>