batch size、iteration 和 epoch 的区别
例如:我们现在有1000个样本,分成 4 个 batches 的话,batch size 就是 250 ,每次输入神经网络的数据就是一个 batch,也即 250 个样本。神经网络收到 250 个样本后,进行一次正向传播和反向传播,更新了一次网络 weights ,这就是一个 iteration 。 一次接一次地把这 4 个 batches 依次输入神经网络,进行了 4 次 iterations,就完成了一个 epoch 。
例如:我们现在有1000个样本,分成 4 个 batches 的话,batch size 就是 250 ,每次输入神经网络的数据就是一个 batch,也即 250 个样本。神经网络收到 250 个样本后,进行一次正向传播和反向传播,更新了一次网络 weights ,这就是一个 iteration 。 一次接一次地把这 4 个 batches 依次输入神经网络,进行了 4 次 iterations,就完成了一个 epoch 。