深度学习原理与TensorFlow实践3:数据读取

本文探讨了深度学习中不同数据格式的使用,如csv、pandas、numpy和hdf,并介绍了如何将数据转化为TFRecord格式以及如何从TFRecord文件中读取数据,为TensorFlow实践提供指导。
摘要由CSDN通过智能技术生成

一、各种类型的数据形式及其对应使用的库

csv、pkl(cPickle、Pickle)、json、xsl、html、xml —— pandas

npy、npz(多个npy的压缩)——numpy

hdf —— 跨平台高校读写

二、TFRecord数据处理

1. 转化为tfrecords格式

# csv->tfrecords
def transform_to_tfrecord():
    data = pd.read_csv('data/train.csv')
    tfrecord_file = 'train.tfrecords'
    
    def int_feature(value):
        return tf.train_Feature(int64_list = tf.train.Int64List(value = [value]))
    
    def float_feature(value):
        return tf.train_Feature(float_list = tf.train.FloatList(value = [value]))
    
    writer = tf.python_io.TFRecordWriter(tfrecord_file)
    for i in range(len(data)):
        feature = tf.trian.Features(feature = {
            'Age':float_feature(data['Age'][i])
            ...
        })
    example = tf.train.Example(feature = features)
    writer.write(example.Seria
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值