CNN模型训练中常用术语

• Epoch
  一个epoch是指模型训练表示对整个数据集进行一次遍历，即对数据集中的所有数据进行一次正向计算与反向传播。通常情况下，由于数据集太大，只能分批喂入。对于模型训练，遍历一次肯定是不够的，需要反复多次遍历才能实现模型的收敛。因此我们通常说经过多少个epoches，模型训练完毕！
• iterations
  完成一次epoch一共需要喂入的batch数量，称为iterations。
• batch size
  正如上面所说，由于数据集太大，我们每次向模型中喂入一批数据（训练样本），这一批数据的大小（训练样本），我们称为batch size。

例：某数据集有2000个数据，分成4个batch，那么batch size就是500。运行所有的数据进行训练，完成1个epoch，需要进行4次iterations。