2020年12月_贝猫说python

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创 pytorch 单卡加载多卡模型module

'''实际上就是字典的操作，那么字典的操作，哪些层不要，打印出层的名字就可以了，例如模型参数的某些层的权重不要，那么重构一个字典参数就可以了，for k in torch.load("**.pth').keys(): 打印出来按照名字删除键值对，所以字典的pop删除操作也是可以的，多卡训练参数多了一个module'''# pretrained_dict = torch.load("checkpoint.pth")['state_dict'] #如果存储的是多个字典信息pret

2020-12-29 17:28:51 1034

原创 pytorch apex +ddp 分布式训练+数据优化

1、DDP代码添加讲解https://blog.csdn.net/cdknight_happy/article/details/1082625952、apex 官网 apex + ddp + 数据优化https://github.com/NVIDIA/apex/blob/master/examples/imagenet/main_amp.pyimport argparseimport osimport shutilimport timeimport torchimport torch.n

2020-12-29 11:02:28 1975

原创 pytorch dali 加速 dali支持的数据处理列表，mxnet tensorflow caff读取数据转换 pytorch训练

使用dali加速，前提是 gpu没有跑满，不然效果也不大+apex 混合精度训练1、【Pytorch】nvidia-dali——一种加速数据增强的方法https://blog.csdn.net/weixin_42028608/article/details/1055640602、官方自定义数据接口使用介绍https://github.com/NVIDIA/DALI/blob/master/docs/examples/frameworks/pytorch/pytorch-external_input

2020-12-21 16:49:03 1561

原创 pytorch加载预选连模型或者中断恢复训练 gpu outof memory

model = model.to(device)if args.resume: print("恢复训练") print("============================================>") checkpoint = torch.load(args.resume,map_location=torch.device('cpu')) #不加cpu会占用 gpu 内存， gpu 快满了，会导致 outof memry start_epoch =

2020-12-18 16:41:06 779 2

转载 pytorch 实现Grad-CAM和Grad-CAM++（转）

Grad-CAM.pytorch pytorch 实现Grad-CAM:Visual Explanations from Deep Networks via Gradient-based Localization 和 Grad-CAM++: Improved Visual Explanations for Deep Convo...

2020-12-11 17:35:02 1672

原创维度信息的理解例如图片hwc numpy 数字显示维度112 112 怎么理解

hwc(5 5 3) 是不是 5*5 个特征图有3个? 三个通道（ rgb ）以上本质含义理解没有问题numpy 表示的形式和文字表达不一样需要转换numpy 看括号是 5个 5行3列的的数组表达图片理解的信息 5*5 个特征图有3个所以现在想要获取, r 通道的数据，上述numpy数组哪里才是表示所有的 r 通道的数据昵答案：1、理解中应该是 553 551 特征图第一张是 r 通道数据，理解没错但是对应 numpy 是什么数据昵2、

2020-12-08 11:53:27 1034

原创 anaconda python版本查询界面和软件包下载界面，下载安装没有问题的搞定

1、anaconda python3.6 linux 应该下载什么版本号昵以下网址会出现（注意其他界面找不到这个有python 界面的，可能英文太菜了）https://docs.anaconda.com/anaconda/packages/oldpkglists/但是3.6 3.8 版本号发现都是一样的什么意思？2020.02版本中默认的python版本是3.7，但同时提供了python3.6和python3.8的元软件包。想将python3.7切换为python3.6或python

2020-12-08 10:22:04 403

转载 pytorch分类模型输出预测

output = model(inp) probs = F.softmax(output).detach().numpy()[0] pred = np.argmax(probs)得到分类输出结果c++ 使用torchscript 加载训练好的pytorch模型

2020-12-07 17:02:28 4085

原创 pytorch 加载模型和参数，不依赖源码和模model.py文件

torch.save(model,“模型名字”)torch.load 是需要依赖源码的，pickle.load 调用就会找模型定义的类，就会根据路径找，所以需要在同一个工程项目里面，否则报错，还是需要工程文件相关代码文件不依赖源码代码只用一个模型在任意环境加载的办法 torchscriptc++环境中调用pytorch模型trace 和 scripttrace_module = torch.jit.trace(model,torch.rand(1,1,224,224))

2020-12-07 17:00:54 1843 1

原创剑指offer二叉树的高度递归流程，很明白了

# 遍历二叉树有两种深度优先遍历层序优先遍历# 递归的实现调用自身的函数都在缓存中，还没有执行直到递归截至条件，从最后的函数进行执行# 先进后出就是栈的一个规律，进行执行的，进就是调用函数本身，出就是递归截止条件后，执行之前的函数功能# 左子树深度右子树深度，最大值 +1# 递归的顺序方向是入栈，开辟了缓存空间，是多个调用函数本身（空间换时间的方法）# 递归的逆向就是执行出栈，从递归的截止条件（初始位置）开始向上执行（# 调用函数（调用的.

2020-12-07 09:47:36 222 1

原创 pytorch加载数据 dataloader ,显示数据增强效果随机擦除，纵横比缩放图片显示，以及opencv读取，可以直接使用

import osimport shutilimport cv2import randomimport numpy as npfrom torchvision import transformsimport torchvisionfrom torch.utils.data import DataLoader,Datasetimport mathdef aspect_ratio_scaling(img, target_size=160): #纵横比缩方接口 ''' :pa

2020-12-04 18:24:13 1013

原创 pytorch pil opencv ，dataloarder流程，读取图片训练两个数据加载代码,opencv纵横比缩放,报错解决

先了解数据读取流程Pytorch系列之——数据读取机制&Transformsfrom torch.utils.data import Datasetclass ImageDataset(Dataset): #这里的函数按照三个模块自己改写 def __init__(self, dataset, transform=None): self.dataset = dataset #dataset是读取的所有图片路径和label，例如[("/home/

2020-12-04 09:40:58 820