2020-11-27

GPU加载模型特别慢

安装cuda，cudnn，torch：https://blog.csdn.net/Douzaikongcheng/article/details/109945656

原因：显卡与cuda版本不符合

RTX30系显卡采用sm_86只有cuda11.1才支持

RTX3080安装CUDA10加载GPU模型特别慢,每秒加载2-3M的模型

解决办法，安装CUDA11.0和cuDNN11.1，然后安装torch1.7.0

 

CUDA: https://developer.nvidia.com/cuda-downloads
cuDNN: https://developer.nvidia.com/rdp/cudnn-download

torch：https://download.pytorch.org/whl/torch_stable.html

 

直接复制过来的路径编码有误，改为正确的路径

pip install E:\python_pkg\torchvision-0.8.1+cu110-cp37-cp37m-win_amd64.whl

import torch
print(torch.version.cuda)

11.0