TensorFlow:实战Google深度学习框架(六)数据处理框架-数据集

        除了通过队列进行多线程输入的方法之外,tensorflow还提供了一套更高层的数据数据处理框架。在新的框架中,每一个数据来源被抽象成一个“数据集”,开发者可以进行batching、shuffle等操作。

  1. 数据集的基本使用方法:每一个数据来源都是一个数据集,可以是一个张量,可以是一个tfrecord而文件、一个文本文件。。。。。。


    由于训练数据无法同时读入内存,从数据集中读取数据时需要使用一个迭代器(iterator)按顺序进行读取,这和队列的dequeue操作以及reader的read操作类似



     

  2. 数据集的高层操作

    1. map()函数解析:map(parser)表示的时数据集中的每一条数据都进行相应的操作;map在对每一条数据进行处理后,再对数据进行包装,然后返回一个新的数据集。map函数可以用于对数据任何预处理操作

    2. 其他高层操作:dataset.shuffle()、dataset.batch()、dataset.repeat()......



 

 

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值