利用Tensorflow的队列多线程读取数据方式

最新推荐文章于 2021-03-12 22:22:12 发布

python 一语呢喃

最新推荐文章于 2021-03-12 22:22:12 发布

阅读量825

点赞数

分类专栏： python基础教程文章标签： python tensorflow

本文链接：https://blog.csdn.net/haoxun02/article/details/104269731

版权

本文详细介绍了如何使用Tensorflow的队列和多线程技术从文件中高效读取数据，包括创建读取队列、图像预处理、随机打乱和批处理等步骤，适用于大规模数据集如CIFAR-10的处理，提高训练速度。

摘要由CSDN通过智能技术生成

今天小编就为大家分享一篇利用Tensorflow的队列多线程读取数据方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
在tensorflow中，有三种方式输入数据

利用feed_dict送入numpy数组
利用队列从文件中直接读取数据
预加载数据

其中第一种方式很常用，在tensorflow的MNIST训练源码中可以看到，通过feed_dict={}，可以将任意数据送入tensor中。

第二种方式相比于第一种，速度更快，可以利用多线程的优势把数据送入队列，再以batch的方式出队，并且在这个过程中可以很方便地对图像进行随机裁剪、翻转、改变对比度等预处理，同时可以选择是否对数据随机打乱，可以说是非常方便。该部分的源码在tensorflow官方的CIFAR-10训练源码中可以看到，但是对于刚学习tensorflow的人来说，比较难以理解，本篇博客就当成我调试完成后写的一篇总结，以防自己再忘记具体细节。

读取CIFAR-10数据集

按照第一种方式的话，CIFAR-10的读取只需要写一段非常简单的代码即可将测试集与训练集中的图像分别读取：

path = 'E:\Dataset\cifar-10\cifar-10-batches-py'
# extract train examples
num_train_examples = 50000
x_train = np.empty((num_train_examples, 32, 32, 3), dtype='uint8')
y_train = np.empty((num_train_examples), dtype='uint8')
for i in range(1, 6): 
 fpath = os.path.join(path, 'data_batch_' + str(i)) 
 (x_train[(i - 1) * 10000: i * 10000, :, :, :], y_train[(i - 1) * 10000: i * 10000])   = load_and_decode(fpath)
# extract test examples
fpath = os.path.join(path, 'test_batch')
x_test, y_test = load_and_decode(fpath)
return x_train, y_train, x_test, np.array(y_test)

其中load_and_decode函数只需要按照CIFAR-10官网给出的方式decode就行，最终返回的x_train是一个[50000, 32, 32, 3]的ndarray，但对于ndarray来说，进行预处理就要麻烦很多，为了取mini-SGD的batch，还自己写了一个类，通过调用train_set.next_batch()函数来取，总而言之就是什么都要自己动手，效率确实不高

但对于第二种方式，读取起来就要麻烦很多，但使用