深度学习
文章平均质量分 74
Bear_Kai
西北工业大学,模式识别
展开
-
Pytorch模型训练恢复之load_state_dict
官方教程:https://pytorch.org/tutorials/beginner/saving_loading_models.html#新版pytorch中load_state_dict()不支持map_location参数,但torch.load()支持背景假设pytorch model执行save操作时,模型参数是在gpu上,那么运行checkpoint = torch.load(...原创 2020-04-01 10:17:20 · 10744 阅读 · 4 评论 -
Pytorch小知识点
x = torch.tensor([1,2,3]), y=torch.tensor([4,5,6]).cuda(0)(1)tensor to numpy: x.numpy() or y.cpu().numpy(2)numpy to tensor: torch.from_numpy()(2.1)a=torch.from_numpy(b),b改变会影响a,a的dtype=torch.floa...原创 2020-04-01 09:58:48 · 521 阅读 · 0 评论 -
Pytorch训练out of memory
两类内存报错:RuntimeError: cuda runtime error (2) : out of memory ...RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB ...对于第一种:pytorch版本升级、避免中间变量累积、pin_memory置False …对于第二种:batchsize调小、选小模...原创 2020-04-01 09:52:53 · 1083 阅读 · 0 评论 -
人脸仿射对齐 & 框绘制
1. 相关代码import cv2import numpy as npfrom skimage import transform as transimg_size = 112 # Below is for 112*112 face img. src1 is for 112*96 where src1=src[:,0]-8.0src = np.array([[38.2946, 51.6...原创 2020-02-11 11:46:23 · 610 阅读 · 0 评论 -
Pytorch参数更新实验
概述构建一个toy net,测试不参与运算的变量是否会更新&如何更新起因实现随机深度策略时,在block内部进行requires_grad=True/False操作会报错(后面测试知道其实是DataParallel的锅)ref: 1, 2结论初始化各模块如self.conv3后,其_grad值为Noneself.conv3只有在forward中运行了,才会被纳入graph中...原创 2019-10-23 11:59:24 · 4882 阅读 · 0 评论 -
Pytorch权值初始化及参数分组
1. 参考MobileFaceNet_Pytorch-master中from torch.optim import lr_scheduler# define optimizersignored_params = list(map(id, net.linear1.parameters())) # id() 函数用于获取对象的内存地址ignored_params += list(map(i...原创 2019-08-12 16:08:18 · 7602 阅读 · 7 评论