0,开始之前(不使用GPU可以直接跳到第一步)
运行环境:win10+py3.7.8+pycharm
(可选部分:GPU环境:GTX 1660+cuda10.2+cudnn8.1.0)
cuda和cudnn简单的说就是两个用于机器学习的包,安装稍有点麻烦
训练模型过程中使用GPU加速是可选的,如:
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
使用CPU计算会占用过多CPU资源,使用GPU理论上可以大大减少训练时间(但由于过多的IO操作加速并不非常明显,不过可以大大减轻CPU的负担)
如何配置cuda和安装GPU版本的pytorch可以参考博客:pytorch-gpu版本安装
下面代码可以测试GPU加速是否成功
import torch
import time
print(torch.__version__) # 返回pytorch的版本
print(torch.cuda.is_available()) # 当CUDA可用时返回True
a = torch.randn(10000, 10000