caffe之epoch和iteration

epoch:使用整个训练样本集传播一次.一次传播 = 一次前向传播 + 一次后向传播。但是考虑到内存不够用的问题，训练样本们往往并不是全都一起拿到内存中去训练，而是一次拿一个batch去训练，一个batch包含的样本数称为batch size。

iteration:使用batch size个样本传播一次。同样，一次传播=一次前向传播+一次后向传播。

batch:个一定size的图片去训练

test_iter: 在测试的时候，需要迭代的次数，即test_iter* batchsize（测试集的）=测试集的大小。

test_interval:interval是区间的意思，该参数表示：训练的时候，每迭代500次就进行一次测试。

caffe在训练的过程是边训练边测试的，训练过程中每500次迭代（也就是32000个训练样本参与了计算，batchsize为64），计算一次测试误差。计算一次测试误差就需要包含所有的测试图片（这里为10000），这样可以认为在一个epoch里，训练集中的所有样本都遍历以一遍，但测试集的所有样本至少要遍历一次，至于具体要多少次，也许不是整数次。
eg. 我们有10000个训练样本，batch size为100，那么完成一次epoch就需要100个iteration。