pytorch深度学习
文章平均质量分 79
pytorch深度学习
Alexa2077
这个作者很懒,什么都没留下…
展开
-
特征图输出类型 Tensor或Tuple
最近在修改网络模型时,发现有些特征图输出的类型是Tensor,有的特征图输出的类型却是Tuple,一开始不知到为什么是这样的,苦恼了半天,后来上网查询后发现了基本的规律,本文分享一下。转载 2024-07-08 20:14:47 · 98 阅读 · 0 评论 -
[pytorch] 定义自己的dataloader
一般将dataloader封装为一个类,这个类继承自 torch.utils.data.datasetclass LoadData(Dataset): # 注意父类的名称,不能写datasetpass需要注意的是dataset是模块名,而Dataset是类名,在python中模块名和类名是完全独立的命名空间,因此这里的父类需要写成 dataset.Dataset。__init__方法,主要用来定义数据的预处理__getitem__方法,返回数据的item和label。原创 2024-01-29 11:57:33 · 810 阅读 · 0 评论 -
【PyTorch】常见错误: RuntimeError: Input type (torch.FloatTensor) and weight type (torch.cuda.FloatTensor)
根据报错内容可以看出Input type为torch.FloatTensor(CPU数据类型),而weight type(即网络权重参数这些)为torch.cuda.FloatTensor(GPU数据类型)。既然网络参数是GPU类型,那解决方法就是将输入类型转变为GPU类型,需要使用到cuda,没有cuda就解决不了。那就同理,对net进行转换。若与上面错误是反的,即。转载 2023-11-16 15:57:25 · 2603 阅读 · 0 评论 -
动态调整学习率Lr
在训练深度学习模型时,不可避免的要调整超参,而学习率首当其冲是大家最先想要调整的一个超参。而且学习率对于模型训练效果来说也相当重要。然鹅,学习率过低会导致学习速度太慢,学习率过高又容易导致难以收敛。因此,很多炼丹师都会采用动态调整学习率的方法。刚开始训练时,学习率大一点,以加快学习速度;之后逐渐减小来寻找最优解。那么在Pytorch中,如何**在训练过程里动态调整学习率呢?**本文将带你深入理解优化器和学习率调整策略。自定义学习率调度器:torch.optim.lr_scheduler.LambdaL原创 2023-11-13 17:23:23 · 274 阅读 · 0 评论 -
关于pytorch张量维度转换及张量运算
w2的二维张量,torch.cat(a,b,0)表示在第一维进行拼接,即在特征的通道维度进行拼接,其他维度必须保持一致,即w1=w2,h1=h2。第二种是分割方案,是一个list类型的数据,待分割的张量将会被分割为len(list)份,每一份的大小取决于list中的元素。的维度进行压缩,如1,2,1,9的张量做squeeze(2),则会降维到1,2,9维的张量;上面的操作相当于,先把形状为**(2,3)的tensor展平,变成(1,6),然后再变成(3,2).**,如将1,2,1,9的张量降维到2,9维;原创 2023-11-01 22:52:04 · 809 阅读 · 0 评论 -
关于pytorch张量维度转换大全
w2的二维张量,torch.cat(a,b,0)表示在第一维进行拼接,即在特征的通道维度进行拼接,其他维度必须保持一致,即w1=w2,h1=h2。的维度进行压缩,如1,2,1,9的张量做squeeze(2),则会降维到1,2,9维的张量;的4维张量,其中B表示batchsize,C表示特征通道数,H和W表示特征的高和宽,在将特征送入全连接层之前,会用.view将转换为。上面的操作相当于,先把形状为**(2,3)的tensor展平,变成(1,6),然后再变成(3,2).**,所以w1和w2必须相等。原创 2023-11-01 22:13:10 · 2081 阅读 · 0 评论 -
8 模型查看
可以看出,torchsummary 不仅可以查看网络的顺序结构,还有网络参数量,网络模型大小等信息,非常实用。等待安装完成后运行 python 进入交互式环境,导入 torchsummary, 不报错的话就是安装成功了。在 Anaconda prompt 中进入自己的 pytorch 环境,安装依赖包。summary 会计算参数量,等等信息,还会对尺寸不匹配进行报错。完成以上步骤后,进入自己的 python 编辑环境,运行如下代码。1,安装 torchsummary。原创 2023-10-30 10:08:34 · 134 阅读 · 0 评论 -
固定深度模型训练中的随机种子
直接将下面的代码写进主要的运行文件里即可。可以根据自己的训练结果调整随机种子的数字,比如你可以设置为20等等。1.为了进行论文复现,或者进行模型的改进,固定住随机种子十分必要,不然所作的改进的提升效果无从知晓,以下代码可以确保每次训练的过程一摸一样。转载 2023-10-29 21:36:05 · 246 阅读 · 0 评论 -
torchvision.models简介
torchvision.models简介原创 2023-03-08 23:06:39 · 3869 阅读 · 0 评论 -
Pytorch中utils.data 与torchvision简介
pytorch中的utils和torchvision原创 2023-03-08 20:09:35 · 868 阅读 · 1 评论 -
PyTorch的生态简介
pytorch生态简介原创 2022-07-24 18:52:52 · 183 阅读 · 0 评论 -
使用TensorBoard可视化训练过程
pytorch可视化原创 2022-07-22 22:44:23 · 2941 阅读 · 0 评论 -
PyTorch可视化
pytorch可视化原创 2022-07-22 21:51:39 · 1565 阅读 · 0 评论 -
PyTorch进阶训练技巧
pytorch高阶训练技巧原创 2022-07-20 22:16:48 · 648 阅读 · 0 评论 -
PyTorch项目实战—FashionMNIST时装分类
PyTorch项目实战1转载 2022-07-16 13:56:38 · 1124 阅读 · 0 评论 -
PyTorch主要模块
PyTorch主要模块原创 2022-07-15 19:16:44 · 835 阅读 · 0 评论 -
pytorch环境配置及基础知识
pytorch环境配置及基础知识原创 2022-07-12 21:16:24 · 444 阅读 · 0 评论 -
Anaconda创建环境及环境配置
anaconda创建环境原创 2022-04-05 11:32:46 · 56182 阅读 · 2 评论