Tensorflow 训练自己的数据集(二)(TFRecord)

Tensorflow 提供了一种统一的格式来存储数据,这个格式就是TFRecord,上一篇博客中所提到的方法当数据的来源更复杂,每个样例中的信息更丰富的时候就很难有效的记录输入数据中的信息了,于是Tensorflow提供了TFRecord来统一存储数据,接下来我们就来介绍如何使用TFRecord来同意输入数据的格式。


1. TFRecord格式介绍

TFRecord文件中的数据是通过tf.train.Example Protocol Buffer的格式存储的,下面是tf.train.Example的定义

message Example {
 Features features = 1;
};

message Features{
 map<string,Feature> featrue = 1;
};

message Feature{
    oneof kind{
        BytesList bytes_list = 1;
        FloatList float_list = 2;
        Int64List int64_list = 3;
    }
};

从上述代码可以看到,ft.train.Example 的数据结构相对简洁。tf.train.Example中包含了一个从属性名称到取值的字典,其中属性名称为一个字符串,属性的取值可以为字符串(BytesList ),实数列表(FloatList )或整数列表(Int64List )。例如我们可以将解码前的图片作为字符串,图像对应的类别标号作为整数列表。


2. 将自己的数据转化为TFRecord格式

准备数据

在上一篇博客中,我们为了像伟大的MNIST致敬,所以选择图像的前缀来进行不同类别的分类依据,但是大多数的情况下,在进行分类任务的过程中,不同的类别都会放在不同的文件夹下,而且类别的个数往往浮动性又很大,所以针对这样的情况,我们现在利用不同类别在不同文件夹中的图像来生成TFRecord.

我们在Iris&Contact这个文件夹下有两个文件夹,分别为iris,contact。对于每个文件夹中存放的是对应的图片


转换数据

数据准备好以后,就开始准备生成TFRecord,具体代码如下:

import os 
import tensorflow as tf 
from PIL import Image  
import matplotlib.pyplot as plt 

cwd='/home/ruyiwei/Documents/Iris&Contact/'
classes={'iris','contact'} 
writer= tf.python_io.TFRecordWriter("iris_contact.tfrecords") 

for index,name in enumerate(classes):
    class_path=cwd+name+'/'
    for img_name in os.listdir(class_path): 
        img_path=class_path+img_name 
        img=Image.open(img_path)
        img= img.resize((512,80))
        img_raw=img.tobytes()
        #plt.imshow(img) # if you want to check you image,please delete '#'
        #plt.show()
        example = tf.train.Example(features=tf.train.Features(feature={
            "label": tf.train.Feature(int64_list=tf.train.Int64List(value=[index])),
            'img_raw': tf.train.Feature(bytes_list=tf.train.BytesList(value=[img_raw]))
        })) 
        writer.write(example.SerializeToString()) 

writer.close()

3. Tensorflow从TFRecord中读取数据

def read_and_decode(filename): # read iris_contact.tfrecords
    filename_queue = tf.train.string_input_producer([filename])# create a queue

    reader = tf.TFRecordReader()
    _, serialized_example = reader.read(filename_queue)#return file_name and file
    features = tf.parse_single_example(serialized_example,
                                       features={
                                           'label': tf.FixedLenFeature([], tf.int64),
                                           'img_raw' : tf.FixedLenFeature([], tf.string),
                                       })#return image and label

    img = tf.decode_raw(features['img_raw'], tf.uint8)
    img = tf.reshape(img, [512, 80, 3])  #reshape image to 512*80*3
    img = tf.cast(img, tf.float32) * (1. / 255) - 0.5 #throw img tensor
    label = tf.cast(features['label'], tf.int32) #throw label tensor
    return img, label

4. 将TFRecord中的数据保存为图片

filename_queue = tf.train.string_input_producer(["iris_contact.tfrecords"]) 
reader = tf.TFRecordReader()
_, serialized_example = reader.read(filename_queue)   #return file and file_name
features = tf.parse_single_example(serialized_example,
                                   features={
                                       'label': tf.FixedLenFeature([], tf.int64),
                                       'img_raw' : tf.FixedLenFeature([], tf.string),
                                   })  
image = tf.decode_raw(features['img_raw'], tf.uint8)
image = tf.reshape(image, [512, 80, 3])
label = tf.cast(features['label'], tf.int32)
with tf.Session() as sess: 
    init_op = tf.initialize_all_variables()
    sess.run(init_op)
    coord=tf.train.Coordinator()
    threads= tf.train.start_queue_runners(coord=coord)
    for i in range(20):
        example, l = sess.run([image,label])#take out image and label
        img=Image.fromarray(example, 'RGB')
        img.save(cwd+str(i)+'_''Label_'+str(l)+'.jpg')#save image
        print(example, l)
    coord.request_stop()
    coord.join(threads)
  • 7
    点赞
  • 37
    收藏
    觉得还不错? 一键收藏
  • 9
    评论
### 回答1: 制作数据集的步骤如下: 1. 收集数据:收集需要用于训练模型的数据,可以是图片、文本、音频等。 2. 数据预处理:对收集到的数据进行预处理,如图像的缩放、裁剪、旋转等操作,文本的分词、去除停用词等操作。 3. 数据标注:对数据进行标注,如图像的分类、目标检测、语义分割等标注方式,文本的情感分类、命名实体识别等标注方式。 4. 数据集划分:将数据集划分为训练集、验证集和测试集,一般比例为6:2:2。 5. 数据集存储:将处理好的数据集存储为tfrecord格式,方便后续读取和处理。 在tensorflow2.中,可以使用tf.data.Dataset API来读取和处理tfrecord格式的数据集,具体操作可以参考官方文档。 ### 回答2: TensorFlow 2.0是一个强大的机器学习工具,它可以帮助我们训练并优化模型。在使用TensorFlow 2.0构建机器学习模型之前,我们需要先构建一个数据集。构建数据集的过程通常包括数据的处理、清洗和转换等步骤。 第一步是定义数据集。在TensorFlow 2.0中,数据集tf.data.Dataset对象表示。可以使用tf.data.Dataset.from_tensor_slices()或tf.data.Dataset.from_generator()函数来定义数据集。from_tensor_slices()函数需要将数据存储在一个Numpy数组或一个TensorFlow张量中,而from_generator()函数则需要一个Python生成器来生成数据。 第步是对数据集进行预处理和清洗操作。在TensorFlow 2.0中,数据预处理和清洗可采用tf.keras.preprocessing模块。例如,可以使用ImageDataGenerator类来对图像进行缩放或裁剪,也可以使用TextVectorization类对文本进行向量化处理。 第三步是将数据集转换成可以用于模型训练的格式。在TensorFlow 2.0中,使用.map()方法可以对数据集应用任何函数。例如,可以使用.map()方法来对每个图像进行缩放操作或者对每个文本进行词袋编码。此外,TensorFlow 2.0还提供了.batch()方法,可以将数据集分成小批量来进行训练。 最后,我们需要在模型训练之前对数据集进行随机化和重复等操作,以确保训练数据的随机性和多样性。TensorFlow 2.0提供了.shuffle()和.repeat()方法,可以很容易地完成这些操作。 在构建数据集时,我们还需要注意一些问题。例如,如果数据集非常大,则可能需要使用TensorFlow 2.0的分布式训练功能来并行处理数据。另外,如果数据集包含多个类型的数据,则需要对数据进行适当的类型转换和归一化处理。此外,还需要保证数据集的质量和一致性,以确保训练模型的准确性和可靠性。 总之,使用TensorFlow 2.0构建数据集的过程需要考虑多个方面,包括数据集的定义、预处理和清洗、转换和数据集的随机化和重复。只有在数据集构建得到优化和精细后,才能使模型的训练更加准确和可靠。 ### 回答3: TensorFlow是一个流行的深度学习框架,它支持制作、读取和处理数据集。在TensorFlow 2.0中,制作数据集可以使用TensorFlow提供的Dataset API。 Dataset API是一种高效地处理大量数据的API,可以自动执行诸如数据读取,预处理,shuffle和batch等操作,以便更好地处理训练数据集和测试数据集。 下面是使用TensorFlow 2.0生成一个简单的数据集的步骤: 1.导入必要的库 ``` import tensorflow as tf import numpy as np ``` 2.生成训练和测试数据 ``` train_data = np.random.randint(0,10,[500,5]) train_label = np.random.randint(0,2,[500,1]) test_data = np.random.randint(0,10,[50,5]) test_label = np.random.randint(0,2,[50,1]) ``` 上述代码中,我们生成了500个训练样本和50个测试样本,每个样本包含5个特征。每个样本都有一个标签,可以是0或1。 3.创建Dataset对象 ``` train_dataset = tf.data.Dataset.from_tensor_slices((train_data,train_label)) test_dataset = tf.data.Dataset.from_tensor_slices((test_data,test_label)) ``` TensorFlow从切片中创建Dataset对象是最常见的方式之一。这里我们使用from_tensor_slices函数从numpy数组中创建Dataset对象。将输入数据和标签作为元组传递给from_tensor_slices函数。 4.对数据集进行预处理 ``` def preprocess(data, label): data = tf.cast(data, tf.float32) / 255. label = tf.cast(label, tf.int32) return data, label ``` 在这个预处理函数中,我们将数据类型转换为float32类型,并将数值归一化为0到1之间的值。标签被转换为int32类型。 5.应用预处理函数到数据集 ``` train_dataset = train_dataset.map(preprocess) test_dataset = test_dataset.map(preprocess) ``` 在这里,我们使用map函数应用预处理函数。这将处理每个元素(特征和标签)。 6.对数据集进行shuffle和batch处理 ``` train_dataset = train_dataset.shuffle(buffer_size=1000).batch(20) test_dataset = test_dataset.batch(20) ``` 使用shuffle和batch函数可以随机打乱数据集,并指定每批的大小。在这里,我们使用大小为20的批次。 7.将数据集用于模型训练 ``` model.fit(train_dataset, epochs=10, validation_data=test_dataset) ``` 最后,我们使用fit函数来训练我们的模型,并使用验证数据集来测试我们的模型性能。这种方法使数据集处理变得容易和高效,增加了数据表现力,提高了模型性能。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值