学习记录：drop_last

已于 2023-11-16 08:30:52 修改
阅读量314 收藏
点赞数
文章标签： python pytorch 深度学习 人工智能
于 2023-11-16 08:26:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_58753296/article/details/134433059
版权
文章讨论了PyTorchDataLoader中的drop_last选项，其默认为False时，如果数据集大小不是batch_size的整数倍，最后一个batch会被保留，可能导致形状不匹配错误。当设置为True时，会丢弃不完整batch，解决了形状兼容问题。
摘要由CSDN通过智能技术生成

记录：

使用DataLoader时drop_last默认为False，其代表最后一个batch的数据不足一个size大小则保留该batch，为True时则不保留不满足size大小的batch。

在默认为False时运行出现mat1 and mat2 shapes cannot be multiplied，表示形状不能相乘，将drop_last设置为True，运行时正常无错误。

官方解释：drop_last (bool, optional) – set to True to drop the last incomplete batch, if the dataset size is not divisible by the batch size. If False and the size of dataset is not divisible by the batch size, then the last batch will be smaller.

小于没秃
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
PyTorch学习笔记（4）Dataloader与Dataset（1）
01-06
drop_last 当样本数不能被batchsize整除时，是否舍弃最后一批数据 Epoch 所有训练样本都已输入到模型中，成为一个Epoch Iteration 一批样本输入到模型中，称之为一个Iteration Batchsize 批大小 决定一个Epoch有多少...
drop_last设置为True
weixin_42588877的博客
02-16 2305
在很多情况下，当我们处理数据时，我们希望将数据分成批次进行处理。在PyTorch中，可以使用DataLoader来完成这个任务。DataLoader中有一个参数叫做drop_last，它的默认值是False，表示如果最后一个batch的数据不足一个batch_size大小，则保留该batch。如果将drop_last设置为True，则最后一个batch的数据将被舍弃，不足一个batch_size大...
drop_last=True
be_intersted的博客
05-13 1万+
drop_last=True 当你使用了batch normalization的时候，如果batch_size设置得不合适，又没有使用 drop_last = true，那么可能会遇到以下错误 Expected more than 1 value per channel when training, got input size torch.Size([1, 1024]) 解决方案： https://discuss.pytorch.org/t/about-the-relation-between-batch
关于pytorch中drop_last的提醒，不同类别数据不均衡时使用drop_last=True会导致模型训练结果很差
qq_42940160的博客
04-01 8584
项目场景： 我在使用pytorch进行图像分类的时候。 我的解决办法对于我而言很有效，你可以把我的结论当作一种参考 问题描述 遇到了这样的问题。一共16类，第15 16类的训练集数量是15、15，测试集分别为14、5。其他1-14类训练集分别有50个，测试集均为200左右。 当我在pytorch的dataloader中设置了drop_last=True时，无论怎么训练，使用怎么样的数据增强，第15 16类才测试集上的准确率永远为0. 原因分析： 当dataloader设置了drop_last=True时
pytorch drop_last参数
Nick Blog
08-12 1万+
以前一直用keras，习惯不管是训练还是验证，图片数目必须整除batch_size，因为keras是静态图。 后来用了pytorch，仍然在训练验证或数据加载时，设置drop_last=True，这在有时候验证图片比较少并且batch_size设的比较大的时候会导致大量的图片被丢弃。 经过试验，pytorch这种动态图结构下，训练或者验证图片数不能整除batch_size是不会报错的。 有关动态图和静态图的理解，在这里简单说一下我自己的理解： 静态图可以理解成初始化模型的时候，每一层是什么，层与层之间如何连
Pytorch学习（四）Dataloader
laner__gg的博客
07-23 1173
Dataloader()从Dataset当中取数据。可以通过参数设置。 num_wokers是否采用多线程，win系统一般只能设置为0. drop_last,为true的话，则舍去最后的不能除的数据，为false则不舍去。 DataLoader是把所有img,target打包 输出DataLoader中的数据： import torchvision from torch.utils.data import DataLoader from torch.utils.tensorb.
Pytorch（二）
qq_41950447的博客
10-28 545
1. transforms的使用 在pytorch官网下载数据集，并在transforms中显示 直接打印数据集是PIL格式的，需要通过ToTensor转换格式。 root自动下载的数据集的根目录 train是否为训练集 download是否自动下载训练集设置完，运行后就自动下载数据集 train_set = torchvision.datasets.CIFAR10(root="./dataset", train=True, transform=dataset_transforms,downloa
php SQLite学习笔记与常见问题分析第1/2页
10-30
SQLite 支持其他常见的SQL语句，如 `ATTACH DATABASE` (附加数据库)，`BEGIN/COMMIT/ROLLBACK TRANSACTION` (事务管理)，`CREATE INDEX/DROP INDEX` (索引操作)，`CREATE VIEW/DROP VIEW` (视图操作)，`CREATE ...
pl/sql数据库学习笔记
09-12
PL/SQL数据库学习笔记 PL/SQL是一种高级的程序语言，主要用于Oracle数据库管理系统中。下面是PL/SQL数据库学习笔记的知识点总结。 一、基本原则 *瀑布模型：需求分析→设计（概要设计，详细设计：SQL语句，变量...
2009达内SQL学习笔记
02-10
spool oracleday01.txt ：开始记录 spool off ：开始保存细节 四、SELECT语句：选择操作、投影操作。 select：从一个或多个表中检索一个或多个数据列。包含信息：想选择什么表，从什么地方选择。必须要有From...
sql学习笔记 常见问题总结
09-02
本学习笔记旨在总结SQL的常见问题及基础概念，帮助读者深入理解和掌握SQL的核心技巧。 一、SQL基础 1. 数据库与表结构：SQL中的数据库是由多个表组成的集合，每个表包含若干列和行。列定义了数据类型，如整数、...
pytorch初学笔记（六）：DataLoader的使用
热门推荐
CV在读
10-30 2万+
DataLoader是一个可迭代的数据装载器，组合了数据集和采样器，并在给定数据集上提供可迭代对象。可以完成对数据集中多个对象的集成。CLASSDataLoaderdataset,,,,,,,,,timeout=0,,,,*,,,)Epoch： 所有训练样本都已输入到模型中，称为一个epochIteration： 一批样本（batch_size）输入到模型中，称为一个Iteration,
pytorch 中 drop_last与 nn.Parameter
最新发布
chumingqian的博客
12-11 1189
在使用深度学习，pytorch 的DataLoader 中，drop_last=True ：DataLoader 中的此设置会删除不完整的最后一批（如果它小于指定的批量大小）。这确保了训练期间处理的每个批次包含相同数量的样本。
【笔记】DataLoader类构造函数的参数：num_workers、pin_memory、drop_last、timeout等
nyist_yangguang的博客
10-12 2729
DataLoader是PyTorch中的一种数据类型。 在PyTorch中训练模型经常要使用它，那么该数据结构长什么样子，如何生成这样的数据类型？ 下面就研究一下： 先看看 dataloader.py脚本是怎么写的（VS中按F12跳转到该脚本） __init__（构造函数）中的几个重要的属性： 1、dataset：（数据类型 dataset） 输入的数据类型。看名字感觉就像是数据库，C#里面也有dataset类，理论上应该还有下一级的datatable。这应当是原始数据的输入。PyTo...
torch.utils.data.dataloader 如何避免 drop_last=False 导致最后一个batch报错
weixin_42584758的博客
01-18 1021
可以在定义dataloader时将drop_last参数设置为True，这样最后一个batch如果数据不足时就会被舍弃，而不会报错。例如： dataloader = torch.utils.data.DataLoader(dataset, batch_size=batch_size, drop_last=True) 另外，也可以在数据集的 len 函数中返回整除batch_size的长度来避免最后...
Data.DataLoader 舍弃最后一个batch数据
04-20 1726
Data.DataLoader 舍弃最后一个batch数据
PyTorch的学习（4）--加载数据集
weixin_46042803的博客
11-01 298
dataloader
【pytorch】学会pytorch dataloader数据加载（一）
Shwan_ma的博客
08-07 1万+
DataLoader Dataloader可以将自己的数据装换成Tensor，然后有效的迭代数据。可以很有效的简化数据的读取过程，方便炼丹。 一、 首先介绍一个简单的例子： 加载头文件： import torch import torch.utils.data as Data torch.manual_seed(1) 生成torch数据 x = torch.linspace(1, 10,...
PyTorch入门必学：DataLoader（数据迭代器）参数解析与用法合集
创作高质量博文，分享知识，共同进步！
12-10 1万+
📚PyTorch入门精华：DataLoader参数全解析📚 🔍深入探索PyTorch中的DataLoader，一文掌握其核心参数！从dataset到batch_size，再到shuffle和num_workers，每个参数都为你详细解读。💡 🌱从基础到进阶，带你领略DataLoader的魅力。用emoji点缀，让学习更加生动有趣！🎉 🚀掌握这些参数，轻松构建高效的数据加载流程，为你的PyTorch项目加速！💪 #PyTorch #DataLoader #参数解析 #数据加载
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值