pytorch实现数据数据读取

本文介绍了如何在PyTorch中使用Dataset和DataLoader处理数据。Dataset作为抽象类用于数据抽象,需重写`__getitem__`和`__len__`方法。DataLoader提供批量数据操作及shuffle功能。通过实例展示了处理姓名性别预测数据的过程。
摘要由CSDN通过智能技术生成

文章目录


本文原地址为 www.zicesun.com icesuns.github.io

在学习的过程中,遇到很多的问题.在训练模型的时候,需要对数据进行读取操作.本篇文章,介绍pytorch如何自定义数据dataset和dataloader.在pytorch中,提供了Dataset这个类,负责对数据进行抽象,一次调用只返回第一个同样本.而Dataloader提供了对一个对一个batch的数据操作,还有对数据进行shuffle等功能.

Dataset

Dataset是一个抽象类,表示一个数据集.所有的数据集类都是Dataset的子类.在自定义数据集的时候,需要对函数**__getitem()**, **__len()**重写.

class Dataset(object):
    """An abstract class representing a Dataset.

    All other datasets should subclass it. All subclasses should override
    ``__len__``, that provides the size of the dataset, and ``__getitem__``,
    supporting integer indexing in range from 0 to len(self) exclusive.
    """
    #每调用一次,返回一个数据样本, index表示返回样本的索引位置
    #在数据处理中,有时会出现某个样本无法读取等问题,比如某张图片损坏。这时在__getitem__函数中将出现异常,此时最好的解决方案即是将出错的样本剔除。然后在数据集中,随机加入一条数据
    def __getitem__(self, index):
        raise NotImplementedError
    #__len__ 数据集的长度
    def __len__(self):
        raise NotImplementedError
    #增加数据,对数据集进行拼接
    def __add__(self, other):
        return ConcatDataset(
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值