训练网络那些事--tensorflow 读取数据

tensorflow读取数据主要有三种方式
1，共给数据，在tensorflow程序运行的每一步，让python代码来供给数据
2，从文件读取数据：在tensorflow图开始，让一个管线从线程中读取数据
3，预加载数据，在tensorflow图中定义变量或变量来保存所有的数据（使用数据比较小的情况）
如果数据很小，内存足够大，可以选择将所有的数据读入内存，然后每次取一个batch对的数据出来，如果数据很多，就每次从硬盘直接读取，不过这种方法的效率很低，
使用tfrecord读取数据
它是一种数据读取方式，实际上是先读取原生数据，然后转化成这种格式，在存储在硬盘上，使用的时候，再将数据从相应的tfrecord解码读取出来，为什么可以加快速度呢
首先读取的时候，先以相应的tfrecord文件为参数，创建一个队列，这个队列有一定的容量，在一部分数据出队的时候，将其他数据与取出来送入队列，这个过程和网络的计算是独立进行的。网络每一个iteration的训练不必等待数据队列准备好再开始，队列中的数据始终是充足的，而往队列中填充数据时，也可以使用多线程加速。