PyTorch
Mr_Lowbee
这个作者很懒,什么都没留下…
展开
-
PyTorch指定GPU训练 CUDA_VISIBLE_DEVICES
方法一import osimport torchos.environ["CUDA_VISIBLE_DEVICES"]="1, 2" 方法二CUDA_VISIBLE_DEVICES=1 python **.py原创 2021-06-03 21:16:35 · 1333 阅读 · 0 评论 -
pytorch查看网络参数总个数
print("Total number of paramerters in networks is {} ".format(sum(x.numel() for x in net.parameters())))其中net是代码中的网络模型原创 2021-04-16 15:14:08 · 572 阅读 · 0 评论 -
torch.optim.lr_scheduler.MultiStepLR
torch.optim.lr_scheduler.MultiStepLR(optimizer, milestones, gamma=0.1, last_epoch=-1)milestones为一个数组,如 [50,70]. gamma为倍数。如果learning rate开始为0.01 ,则当epoch为50时变为0.001,epoch 为70 时变为0.0001。当last_epoch=-1,设定为初始lr用法optimizer = torch.optim.Adam(net.parameters原创 2020-11-20 10:40:20 · 1468 阅读 · 0 评论 -
PyTorch在CPU上加载预先训练好的GPU模型
有时候我们在CPU上训练的模型,因为一些原因,切换到GPU上,或者在GPU上训练的模型,因为条件限制,切换到CPU上。 GPU上训练模型时,将权重加载到CPU的最佳方式是什么?今天我们来讨论一下:参考从官方文档中我们可以看到如下方法torch.load('tensors.pt')# 把所有的张量加载到CPU中torch.load('tensors.pt', map_location=la...原创 2020-04-05 20:59:40 · 1642 阅读 · 0 评论 -
windows10 下安装CUDA10.1+cuDNN+PyTorch1.4
CUDA在CUDA官网下载安装包安装时选择自定义安装,不安装显卡驱动。安装成功会自动添加环境变量,无需手动添加。cuDNN在cuDNN官网下载安装包把解压后的三个文件夹复制直接粘贴到安装路径下C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1会自动添加相应的文件。PyTorchPyTorch官网建议使用p...原创 2020-02-26 11:07:57 · 5041 阅读 · 0 评论 -
PyTorch 多GPU并行处理数据
首先将数据转移至cuda实例化netnet = model_name()net.cuda()并行处理数据net = nn.DataParallel(net)将损失函数转移至cudacriterion = nn.MSELoss()criterion = criterion.cuda()在训练时,也要将data转移至cudadata = data.cuda()label ...原创 2019-12-12 14:28:41 · 433 阅读 · 0 评论