PyTorch
PyTorch 自己遇见并整理的相关知识
深度菜鸡-达闻西
这个作者很懒,什么都没留下…
展开
-
resnet50
baseresnet50 = torchvision.models.resnet50(pretrained=True)base = nn.Sequential(*list(resnet50.children())[:-2])Sequential( (0): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False) (1): BatchNorm2d(64, eps=1e-05, momentum=0原创 2021-11-23 19:55:42 · 336 阅读 · 0 评论 -
正则化惩罚相关知识点
正则化看了好多文章,这篇文章讲的非常清晰易懂。特此转载,以备后查。转载链接: https://blog.csdn.net/jinping_shi/article/details/52433975.转载 2020-04-07 22:30:51 · 281 阅读 · 0 评论 -
pytorch 深度学习中 图片复原 图片---tensor----图片
刚学习深度学习,涉及了图片转成 tensor 想看看变化后的图片效果,可以通过下边的方法进行tensor转图片用了两种方法,涉及了pyplot和PIL 下面的程序写的很清楚了 觉得例子图片是market1501里边的其中一张图。import matplotlib.pyplot as pltfrom PIL import Imageimport torchvision.transf...原创 2020-04-24 23:13:33 · 2036 阅读 · 0 评论 -
数据集加载,Dataset、ImageFloader
最近写了一个简单的程序,利用自己的数据集和resnet50 ,得到最后的特征。其中用到了数据加载,resnet50的利用,其中resnet50的网络好写,但是数据集加载去网上查了才写了出来,特此留个记录。参考链接: https://blog.csdn.net/xuan_liu123/article/details/101145366k.文章目录1 RESNET50搭建2 数据集的操作2.1 Dataset class2.2 torchvision1 RESNET50搭建'''完成网络搭建'''原创 2020-06-17 12:04:36 · 921 阅读 · 0 评论 -
io.savemat() struct问题,不能显示数字
利用io.savemat() 生成一个mat 文件时,不能用tensor,显示不出来from scipy import ioimport numpy as npimport torchx = torch.arange(1,22).reshape(7,-1)y = torch.arange(1,8)print(y)y = y.numpy()print(y)z = []for i in range(7): z.append(y[i]+1)print('z',z)resu原创 2020-07-02 18:51:00 · 590 阅读 · 0 评论 -
resnet 50 第五层 5_1步长改为1
5_layers = nn.Sequential( Bottleneck(1024, 512, downsample=nn.Sequential(nn.Conv2d(1024, 2048, 1, bias=False), nn.BatchNorm2d(2048))), Bottleneck(2048, 512), Bottle...原创 2020-05-16 19:54:45 · 626 阅读 · 0 评论 -
RESNET 修改第四层步长为1,得到更大的size
行人重识别中,很多选择resnet50作为backbone,但是会把第四层的stride改为1,获得到更得特征map,以下是程序。链接: https://github.com/Henuzhaoyli/resnet-50-.原创 2020-05-16 08:44:43 · 700 阅读 · 0 评论 -
多GPU运行深度程序;分步学习率调整;测试(test)加载训练好的模型参数(多GPU参数)
最近在写程序,跑代码的时候遇到了以下小问题。记录并备案解决方法,以备下次遗忘。1. 多GPU 运行程序2. 分步调整学习率3. 基于多GPU训练好的参数怎么加载到test程序使用文章目录一、多GPU运行程序二、不同学习率调整三、多GPU训练好的参数拿过来使用一、多GPU运行程序问题描述:单GPU运行 出现显存不够的问题,一开始就想着用一块,没那么多操心事,但是不够了就不能惯着它了,正好实验室有两块GPU(虽然很烂)。解决方法:if __name__=='__main__': model =原创 2020-11-20 15:50:40 · 1311 阅读 · 3 评论 -
Pytorch的Tensor基本操作(重要的容易忘的)
参考 pytorch 中文文档目录创建操作torch.eyefrom_numpytorch.linspacetorch.onestorch.zerostorch.randtorch.randntorch.arangetorch.range创建操作torch.eyetorch.eye(n, m=None, out=None)返回一个2维张量,对角线位置全1,其它位置全0参数:n (i...原创 2020-04-02 14:43:21 · 450 阅读 · 0 评论 -
conda 基本操作(常用的)
目录添加镜像源(Linux-64)查看所有环境创建环境激活(进入)环境查看确定环境下的包指定环境安装包搜索指定的包退出环境添加镜像源(Linux-64)conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/linux-64查看所有环境conda env list创建环境conda create -n python37(name) python= 3.7可以看到Python37环原创 2020-05-08 18:26:20 · 559 阅读 · 0 评论 -
window +深度学习+dataloader+numworks 问题
os.environ[‘KMP_DUPLICATE_LIB_OK’]=‘True’前边加入上一句,把 dataloader处理 ,包装在 if name==“main”:下边 ,即可解决 window下,num_works=8 速度慢问题。原创 2020-12-31 11:18:37 · 3295 阅读 · 13 评论 -
AttributeError: ‘torch.return_types.max‘ object has no attribute ‘shape‘
测试程序有一句出现了bug,以前没见过,就是正常使用,不觉得会有错。import torchb = torch.range(1,12,1).reshape([3,2,2])print(b,b.shape)d = torch.max(b,dim=0,keepdim=True)###bug所在print(d,d.shape)网上查了一下,torch.max()返回是个turtle,包含了 value,index,所以错误原因也找到了,没有定义index的变量。修改后如下:import to原创 2020-11-13 10:37:48 · 9180 阅读 · 4 评论 -
最近写的行人重识别(person re-id) 程序错误反思记录
文章目录一、 Loss 问题二、 分层学习率问题三、多GPU 处理程序一、 Loss 问题首先,loss 用的是 三元组损失,标签平滑交叉熵损失,调试的过程中出了两个错误(1) float,list dtype不一样的问题,问题出在了 下边的 len(),忘了写了,导致class_names是一个列表,不是我们需要的长度。(2) 维度不匹配原因是出在了 train.py 训练程序里边的训练和验证环节(train和 val) net返回的特征不一样导致,所以出错。二、 分层原创 2020-07-23 18:55:36 · 218 阅读 · 0 评论 -
深度学习中,网络层的初始化 Linerar层 BatchNormld(BN)层
class IDE(nn.Module): def __init__(self, num_classes): super(IDE, self).__init__() resnet = resnet50(pretrained=True) self.backbone = nn.Sequential( resnet.conv1, resnet.bn1, resnet.relu,原创 2020-06-29 16:36:44 · 2101 阅读 · 0 评论 -
pytorch 中参数的保存(save),加载操作(load)
最近写程序,遇到了保存和加载参数的问题,随通过查阅,留下笔记。文章目录参数的保存参数的加载参数的保存首先,参数的保存用的是 torch.save(),具体操作:for epoch in range(num_epoch): #训练数据集的迭代次数,这里cifar10数据集将迭代2次 train_loss = 0.0 for batch_idx, data in enumerate(trainloader, 0): #初始化 inputs, labels原创 2020-06-30 20:51:03 · 4135 阅读 · 4 评论