pytorch 学习率代码_知识干货-pytorch学习-常用代码命令

Pytorch是在Torch基础上用 python语言进行封装和重构打造而成的。与TF相比，Pytorch具有 动态图、debug方便、可读性强和上手快等优点。对于学习一门新的工具来说，最好的学习方式还是其官网:

PyTorch​pytorch.org

作者平时一直在使用Pytorch来训练AI模型，本文主要是讲解作者在平时的研究中使用pytorch的常用代码命令。

ps：会一直更新

显卡设置

在训练的时候需要指定我们训练的AI模型在哪块GPU上

指定一张显卡

device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

指定多张显卡，如3，4张显卡

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '3,4'
#或者在终端命令输入
CUDA_VISIBLE_DEVICES=3,4 python train.py

查看显存

查看当前服务器的所有显卡的显存使用情况

watch -n  1 nvidia-smi

清除显存

torch.cuda.empty_cache()