Caffe 数据层参数shuffle实现机制

参考博客：https://blog.csdn.net/guoyilin/article/details/43985089

我们都知道，训练网络的时候一般需要随机打乱训练样本数据，因为我们是采用min-batch SGD 方法进行优化的，随机打乱一定程度上可以防止陷入局部最优，有利于网络收敛。
而caffe读取数据时是一个batch一个batch顺序读取的，那它到底是用怎样的机制实现shuffle的呢？
caffe的数据形式分leveldb, lmdb, image filelist, hdf5这几种，我们可以从他们的实现源码中了解其shuffle机制，源码放在src/layers文件夹下：

data_layer.cpp, image_data_layer.cpp,windows_data_layer.cpp,hdf5_data_layer.cpp

对于leveldb and lmdb格式，一般在生成的时候就打乱顺序的了，然后caffe就顺序读取，并不再shuffle。
而filelist方式的话，caffe在每个epoch读取前都会整个数据集shuffle一次（shuffle =true的话）。
hdf5也是在生成的时候自定义shuffle。