【PyTorch笔记 05】使用DataLoader类进行数据加载的策略

一、声明

  • 本帖持续更新中

二、情形1:同时加载不等长的两个数据

在某些情况下,训练数据的循环中需要同时加载两个数据集,然而加载两个数据集有可能不等长。这就有可能导致训练时出现逻辑问题。例如,小样本学习中需要加载支撑集和查询集,一个示例程序如下所示:

# 用DataLoader类管理数据
support_loader   = DataLoader(support_dataset , batch_size=args.batch_size, shuffle=True)
query_loader  = DataLoader(query_dataset, batch_size=args.batch_size, shuffle=True)

# 训练循环
for (support_data, support_label, support_indices), (query_data, query_label, query_indices) in zip(support_loader, query_loader):        
        support_data, query_data = support_data.to(device).float(), query_data.to(device).float()
        query_label = query_label.to(device).long()

上述代码中,DataLoader类管理支撑集和查询集,当遇到不等长的情况时,循环会在短的数据处理结束时终止。

  • 9
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
好的,我来给你讲一下如何用 PyTorch 加载自己的数据集。 首先,你需要创建一个自定义的 Dataset ,它必须包含两个方法:\_\_len\_\_ 和 \_\_getitem\_\_。 ```python import torch.utils.data as data class MyDataset(data.Dataset): def __init__(self, data_path): # 初始化数据集 self.data = [] with open(data_path, 'r') as f: for line in f: self.data.append(line.strip()) def __len__(self): # 返回数据集的长度 return len(self.data) def __getitem__(self, index): # 根据索引返回一条数据 return self.data[index] ``` 在上面的代码,我们首先导入了 PyTorchdata 模块,然后定义了一个 MyDataset 。这个的构造函数需要传入数据集的路径,然后读取数据集并进行初始化。在 \_\_len\_\_ 方法,我们返回了数据集的长度,这个方法会被 DataLoader 调用以确定数据集的大小。在 \_\_getitem\_\_ 方法,我们根据索引返回一条数据,这个方法会被 DataLoader 调用以获取数据。 接下来,我们需要创建一个 DataLoader 对象来读取数据集。DataLoader 会按照一定的 batch_size 对数据进行分批,并且提供数据的迭代器。 ```python from torch.utils.data import DataLoader # 创建数据dataset = MyDataset('data.txt') # 创建 DataLoader dataloader = DataLoader(dataset, batch_size=32, shuffle=True, num_workers=4) ``` 在上面的代码,我们首先创建了一个 MyDataset 对象,然后使用 DataLoader 将这个数据集分批。batch_size 参数指定了每个 batch 包含的样本数,shuffle 参数指定了是否打乱数据集,num_workers 参数指定了使用多少个子进程来读取数据集。 现在,我们可以通过迭代 DataLoader 来读取数据了。 ```python for batch in dataloader: # 处理数据 pass ``` 在上面的代码,我们通过迭代 dataloader 来读取数据集,每个 batch 的数据会被封装成一个 Tensor 对象,我们可以直接对这个 Tensor 进行操作。 希望这个回答能够帮助到你!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

42方生科技

谢谢!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值