DL中epoch、batch等的意义【转载】

转自：深度学习中 number of training epochs 中的 epoch到底指什么？ - 知乎 https://www.zhihu.com/question/43673341

1.

（1）iteration：表示1次迭代（也叫training step），每次迭代更新1次网络结构的参数；

（2）batch-size：1次迭代所使用的样本量；每跑完一个batch都要更新参数，这个过程叫一个iteration。

（3）epoch：1个epoch表示过了1遍训练集中的所有样本。

值得注意的是，在深度学习领域中，常用带mini-batch的随机梯度下降算法（Stochastic Gradient Descent, SGD）训练深层结构，它有一个好处就是并不需要遍历全部的样本，当数据量非常大时十分有效。

此时，可根据实际问题来定义epoch，例如定义 10000次迭代为1个epoch，若每次迭代的batch-size设为256，那么1个epoch相当于过了2560000个训练样本。

epoch就是一波的意思。

epoch=迭代次数*batch_size。

 

比如对于一个有 2000 个训练样本的数据集。将 2000 个样本分成大小为 500 的 batch，那么完成一个 epoch 需要 4 个 iteration。

 

2.一次epoch=所有训练数据forward+backward后更新参数的过程。
一次iteration=[batch size]个训练数据forward+backward后更新参数过程。
另：一般是iteration译成“迭代”

 

转载于:https://www.cnblogs.com/BlueBlueSea/p/10585188.html