【深度学习】深度学习框架安装 CUDA+cuDNN+torch

1. 背景

毕业设计中的算法需要安装torch依赖，用pip安装torch速度太慢，自行安装速度更快并且可以安装GPU版本torch。
以下是CUDA+torch的安装方法。

2. CUDA安装

参考资料： 深度学习GPU环境安装 - 知乎

2.1. 查看GPU版本

查看当前计算机GPU环境，当前显卡驱动中的CUDA版本为12.1。

C:\Users\xxx>nvidia-smi
Mon Nov  6 23:45:30 2023
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 532.10                 Driver Version: 532.10       CUDA Version: 12.1     |
|-----------------------------------------+----------------------+----------------------+
| GPU  Name                      TCC/WDDM | Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf            Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                                         |                      |               MIG M. |
|=========================================+======================+======================|
|   0  NVIDIA GeForce RTX 4060 L...  WDDM | 00000000:01:00.0  On |                  N/A |
| N/A   39C    P8                3W /  N/A|    807MiB /  8188MiB |     12%      Default |
|                                         |                      |                  N/A |
+-----------------------------------------+----------------------+----------------------+

+---------------------------------------------------------------------------------------+
| Processes:                                                                            |
|  GPU   GI   CI        PID   Type   Process name                            GPU Memory |
|        ID   ID                                                             Usage      |
|=======================================================================================|
|    0   N/A  N/A     14680    C+G   C:\Windows\explorer.exe                   N/A      |
|    0   N/A  N/A     15644    C+G   ...crosoft\Edge\Application\msedge.exe    N/A      |
|    0   N/A  N/A     15668    C+G   D:\SunloginClient\SunloginClient.exe      N/A      |
|    0   N/A  N/A     17528    C+G   ...tstore\bin-7.0.8\NutstoreClient.exe    N/A      |
|    0   N/A  N/A     18256    C+G   ...7\extracted\runtime\WeChatAppEx.exe    N/A      |
|    0   N/A  N/A     19056    C+G   ...oogle\Chrome\Application\chrome.exe    N/A      |
|    0   N/A  N/A     19312    C+G   ...\iCloud\WebView2\msedgewebview2.exe    N/A      |
|    0   N/A  N/A     28280    C+G   ...5n1h2txyewy\ShellExperienceHost.exe    N/A      |
|    0   N/A  N/A     29864    C+G   ...CBS_cw5n1h2txyewy\TextInputHost.exe    N/A      |
|    0   N/A  N/A     29916    C+G   ...__8wekyb3d8bbwe\WindowsTerminal.exe    N/A      |
|    0   N/A  N/A     30548    C+G   ...81.0_x64__8wekyb3d8bbwe\GameBar.exe    N/A      |
|    0   N/A  N/A     30980    C+G   ...siveControlPanel\SystemSettings.exe    N/A      |
|    0   N/A  N/A     31188    C+G   ...2txyewy\StartMenuExperienceHost.exe    N/A      |
|    0   N/A  N/A     33392    C+G   ...ogram Files (x86)\Zotero\zotero.exe    N/A      |
|    0   N/A  N/A     34784    C+G   ...nt.CBS_cw5n1h2txyewy\SearchHost.exe    N/A      |
|    0   N/A  N/A     41316    C+G   ...62932.0_x64__8wekyb3d8bbwe\Todo.exe    N/A      |
|    0   N/A  N/A     52812    C+G   ...ekyb3d8bbwe\PhoneExperienceHost.exe    N/A      |
+---------------------------------------------------------------------------------------+

2.2. 下载&安装CUDA Toolkit

CUDA Toolkit官方下载地址
此处为了与torch版本匹配，我选择了12.1版本的CUDA toolkit。
下载成功后，双击.exe文件安装。

torch对于CUDA版本有要求

2.3. 配置环境变量

2.4. 检查CUDA是否安装成功

命令行输入nvcc -V

输出版本号则表示安装成功

3. cuDNN安装

3.1. cuDNN下载

cuDNN是一个深度学习加速库，不是必装，但是一般会用到。
cuDNN下载链接

选择与CUDA版本匹配的cuDNN版本。需要完成注册后才能下载。

3.2. cuDNN安装

解压安装包，将里面的文件复制到CUDA目录下、选择替换即可。

参考资料
深度学习GPU环境CUDA详细安装过程（简单快速有效）
深度学习之CUDA+CUDNN详细安装教程

3. torch安装

安装好CUDA后就可以开始安装pytorch框架了。

3.1. 下载torch

pytorch官网下载链接
https://pytorch.org/get-started/locally/

各版本torch .whl文件下载链接（下得快一点）
https://download.pytorch.org/whl/torch_stable.html

此处我选择直接下载.whl文件安装。
选择合适版本的.whl文件，此处我的配置为 CUDA12.1 + windows + amd64 +torch2.1.0

3.2. 安装torch

下载完毕后，直接在.whl文件目录中运行 pip install 文件名 即可安装

3.3. 检查torch版本

pip show torch