超级详细的Windows10+Anaconda3+PyTorch+GPU+CUDA+cuDNN+虚拟环境 的安装和配置过程，建议收藏！！！

写在前面

  Tips：如果是建立虚拟环境，然后使用conda进行下载，那么大可不必在安装pytorch之前安装CUDA，因为conda已经将此打包好了。并且虚拟环境(文件夹)里面conda和cudnn和外面的没关系，系统可以不装cuda，虚拟环境里面有就可以，但是显卡驱动需要装。所以这种情况可以直接看1.2节和第3节。
  此外，我在安装Pytorch时没有使用国内的下载源，使用的默认的。国内的我没有连接上。

0 Anaconda的安装和配置

  这部分参考的我的这个博客：Anaconda安装、环境的配置以及Jupyter和Spyder的打开

1 CUDA

  在安装GPU版本的Pytorch之前需要安装好CUDA和cuDNN，这里先安装CUDA。CUDA的官网是：https://developer.nvidia.com/cuda-zone

1.1 什么是CUDA?

  CUDA是NVIDIA开发的一种并行计算平台和编程模型，用于图形处理单元（GPU）上的常规计算。借助CUDA，开发人员能够利用GPU的功能来显着加快计算应用程序的速度。简而言之就是用来加速的.
  在GPU加速的应用程序中，工作负载的顺序部分在CPU上运行（针对单线程性能进行了优化），而应用程序的计算密集型部分则在数千个GPU内核上并行运行。

1.2 安装之前对计算机的检查

  在安装之前自己计算机的配置是比较重要的，可以知道自己的计算机是否支持GPU等问题。

1.2.1 检查电脑的显卡

  在确定是否有支持CUDA的GPU之前，我们需要知道电脑是什么显卡，以及计算机的计算能力（现在的不知道你不知道也没关系，都能满足所要求的计算能力）。

1. 右键点击桌面
2. 如果在弹出窗口中看到“ NVIDIA控制面板”或“ NVIDIA显示”，则说明具有NVIDIA GPU
3. 在弹出窗口中单击“ NVIDIA控制面板”或“ NVIDIA显示"
4. 打开后我们可以看到如下图所示的信息：
   
     这里我们可以看到计算机的显卡是英伟达的GrForce 940M（咳咳，版本有点菜），下一步我们可以检查其是否支持CUDA.

1.2.2 检查电脑里的显卡是否支持CUDA

  在上一步1.2.1里我们已经知道了计算机的显卡（这里是GrForce 940M），这一步我们查看其是否支持CUDA。
  1.进入到网站 https://developer.nvidia.com/cuda-gpus
  2.找到下图所示内容

  3.这里的是GeForce的产品，所以我们单击其前面的图标。
  4.如果可以找到类似下图的信息，则说明我们的计算机支持CUDA。其中5.0代表计算机的计算能力。

1.3 下载并安装CUDA

  经过1.2节的检查我们已经知道自己的计算机是否支持CUDA了，下面进行安装。
  1、进入下载网站：https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exelocal
  2、选择合适的版本下载，我的是10.1版本的。
  3、通过比较MD5码，检查下载的CUDA的完整性。这一步参考链接2.2。也可以不进行这一步。
  4、我的安装步骤完全按照提示进行的（这也是官网推荐的，但会覆盖计算机本来的版本）。

如何查看计算机本来CUDA的版本呢？只需要在1.2.1节的图片中，点击“帮助”>“系统信息”>“组件”，这样我们就可以看到了。

1.4 检查CUDA是否安装成功

官方验证步骤：https://docs.nvidia.com/cuda/cuda-installation-guide-microsoft-windows/index.html#compiling-examples__valid-results-from-sample-cuda-bandwidthtest-program
  在此之前，可以添加环境变量。这里我按照官网上的步骤并没有添加
First：通过nvcc -V验证
  1、按Windows+R，输入cmd，进去cmd.exe
  2、输入nvcc -V
  3、显示类型下图的版本信息

  还有另外的方法进行验证
Second： 运行deviceQuery或bandwidthTest 示例程序

2 cuDNN

2.1 什么是cuDNN?

  NVIDIA CUDA Deep Neural Network library（cuDNN）是GPU加速的用于深度神经网络的原语库。cuDNN为标准例程提供了高度优化的实现，例如前向和后向卷积，池化，规范化和激活层。cuDNN是NVIDIA Deep Learning SDK的一部分。

2.2 安装前满足的条件

  计算机计算能力大于3.0

2.3 安装

  1、先去网站https://developer.nvidia.com/cudnn，下载对应的版本。
  2、进行解压：会生成include、lib、bin三个目录；
  3、分别将include、lib、bin三个目录中的拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1（这个是CUDA的默认安装路径），替换原来的include、lib、bin目录下即可。
  4、将bin所在的目录添加到环境变量 PATH 中。
这一部分可以参考官网的步骤：https://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.html#install-windows

3 安装PyTorch-GPU

  1、以管理员方式运行Anaconda Prompt
  2、创建名为pytorch_gpu的虚拟环境

conda create -n pytorch_gpu pip python=3.7

虚拟环境的名字可以设置一个好记的

  3、进入虚拟环境

conda activate pytorch_gpu

  4、安装Pytorch
  按照官网的方式需要下载这三个packages。

方法一：
  直接使用官网上的方法，我失败了，原因是下载的源不对。我之前添加了清华的源和中科院的源。
方法二：
  换回了默认源，使用官网的方式。
  这个方法有时候时间很长，第一次我是在晚上，运行了命令就去睡觉了，第二天起来显示连接失败。于是，第二天一大早我再次运行命令(conda install pytorch torchvision cudatoolkit=10.1 -c pytorch)，很快就下载完了pytorch-1.5.0，但是还有两个没有下载成功，也不是再次运行同样的命令，结果很快下载完了cudatoolkit-10.1.243。最后运行同样的命令，很快下载完了torchvision-0.6.0。
  5、验证是否成功
  输入python，输入import torch，没有出现错误即安装完成。

  6、检验其输出是否可以正常调用CUDA
  运行print(torch.cuda.is_available())，显示True,则表示可以正常调用。

4 在PyCharm中使用PyTorch

参考：https://blog.csdn.net/snail9610/article/details/106206976

5 其他的发现

5.1 其他下载源的发现

  如下所示，进入Anaconda的官网，从搜索栏里可以找到自己想要的库以及下载命令(点开某一个，在下方就可以看到)。

5.2 其他人的下载方法

1、使用pip和清华的源[3]

pip install https://download.pytorch.org/whl/cu90/torch-1.0.1-cp36-cp36m-win_amd64.whl -i https://pypi.tuna.tsinghua.edu.cn/simple some-package

pip install torchvision  -i https://pypi.tuna.tsinghua.edu.cn/simple some-package

参考链接

1. https://blog.csdn.net/weixin_41738030/article/details/90545071
2. https://blog.csdn.net/Mind_programmonkey/article/details/99688839
3. https://blog.csdn.net/weixin_36836622/article/details/89376546
4. https://blog.csdn.net/cmat2/article/details/80407059
5. https://www.cnblogs.com/taosiyu/p/11443377.html