epoch-interation-step-batch_size区别

epoch

完整数据集通过神经网络一个正向传递和一个反向传递的过程

interation/step

interation和step都表示迭代次数

代表一次梯度更新（一个batch_size）跑完

batch_size

每一次送入神经网络的训练样本数目

关系

epoch有多次iteration/step，每个iteration/step都是一次batch_size跑完

interation = 样本数 * epoch/batch_size

epoch = (batch_size * interation) / 样本数

举例

训练集1000个样本，batch_size = 10

训练完一次整个样本，即一个epoch，进行了100次interation

第2个epoch:

interation = 1000 * 2 / 10 = 200

第100000个iteration:

epoch = (10 * 100000) /1000 = 1000