文章目录
本文原地址为 www.zicesun.com icesuns.github.io
在学习的过程中,遇到很多的问题.在训练模型的时候,需要对数据进行读取操作.本篇文章,介绍pytorch如何自定义数据dataset和dataloader.在pytorch中,提供了Dataset这个类,负责对数据进行抽象,一次调用只返回第一个同样本.而Dataloader提供了对一个对一个batch的数据操作,还有对数据进行shuffle等功能.
Dataset
Dataset是一个抽象类,表示一个数据集.所有的数据集类都是Dataset的子类.在自定义数据集的时候,需要对函数**__getitem()**, **__len()**重写.
class Dataset(object):
"""An abstract class representing a Dataset.
All other datasets should subclass it. All subclasses should override
``__len__``, that provides the size of the dataset, and ``__getitem__``,
supporting integer indexing in range from 0 to len(self) exclusive.
"""
#每调用一次,返回一个数据样本, index表示返回样本的索引位置
#在数据处理中,有时会出现某个样本无法读取等问题,比如某张图片损坏。这时在__getitem__函数中将出现异常,此时最好的解决方案即是将出错的样本剔除。然后在数据集中,随机加入一条数据
def __getitem__(self, index):
raise NotImplementedError
#__len__ 数据集的长度
def __len__(self):
raise NotImplementedError
#增加数据,对数据集进行拼接
def __add__(self, other):
return ConcatDataset(