报错解决：RuntimeError:The detected CUDA version mismatches the version that was used to compile PyTorch.

报错

博主在编译安装软件时，遇到报错如下：

File "/home/XXX/miniconda3/envs/lin/lib/python3.8/site-packages/torch/utils/cpp_extension.py", line 404, in build_extensions
        self._check_cuda_version()
File "/home/XXX/miniconda3/envs/lin/lib/python3.8/site-packages/torch/utils/cpp_extension.py", line 781, in _check_cuda_version
        raise RuntimeError(CUDA_MISMATCH_MESSAGE.format(cuda_str_version, torch.version.cuda))
RuntimeError:
    The detected CUDA version (11.3) mismatches the version that was used to compile PyTorch (10.2). Please make sure to use the same CUDA versions.

报错原因：CUDA版本和Pytorch版本不匹配。

解决方法：安装对应版本的CUDA

在Linux系统中安装cuda和cudnn一般有两种方法：

1. 在conda虚拟环境中安装。此方法不需要sudo管理员权限，比较适合在公有的电脑或服务器上开发使用。默认安装地址在/anaconda3/envs/[$EnvName]/路径下。
2. 在官网下载deb或runfile文件进行本地安装。此方法有无sudo管理员权限均可，比较适合在自己的电脑或服务器上开发使用。默认安装地址在/usr/local/路径下。

注意：在大多数情况下，在conda虚拟环境中安装 cudatoolkit （第一种安装方法）是可以满足 Pytorch 等框架的使用需求的。但对于一些特殊需求，如需要为 Pytorch 框架添加 CUDA 相关的拓展时(Custom C++ and CUDA Extensions)，需要对编写的 CUDA 相关的程序进行编译等操作，则需安装完整的 Nvidia 官方提供的 CUDA Toolkit. （第二种安装方法）。

conda虚拟环境中安装

创建conda环境并激活，在该环境中安装cuda和cudnn（在此以10.2版本为例）：

# 安装cudatoolkit
conda install cudatoolkit=10.2
# 安装cudnn，自动选版本与cuda版本相匹配
conda install cudnn

在bashrc中指定CUDA环境（需要替换anaconda3的路径以及环境名称）：

vim ~/.bashrc
# add head file search directories 
export C_INCLUDE_PATH=$C_INCLUDE_PATH:/[$YourUserName]/anaconda3/envs/[$YourEnvName]/include
export CPLUS_INCLUDE_PATH=$CPLUS_INCLUDE_PATH:/[$YourUserName]/anaconda3/envs/[$YourEnvName]/include
# add shared library searching directories
export LIBRARY_PATH=$LIBRARY_PATH:/[$YourUserName]/anaconda3/envs/[$YourEnvName]/lib
# add runtime library searching directories
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/[$YourUserName]/anaconda3/envs/[$YourEnvName]/lib

本地安装

前往官网，下载低版本的cuda并安装，例如我选择安装cuda10.2，网页如下图所示：

运行如下指令进行安装：

wget https://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda_10.2.89_440.33.01_linux.run
chmod +x cuda_10.2.89_440.33.01_linux.run
sh cuda_10.2.89_440.33.01_linux.run

输入accept：

取消安装cuda驱动（因为在这之前已经安装好更高版本的显卡驱动就不需要再重复安装）

• 若有root权限，则默认安装路径为/usr/local/目录下，点击Install即可。
• 若没有root权限，则需要在Options选项中修改Toolkit Options 、Library install path这两项的路径，例如修改安装路径为/home/usrname/cuda-10.2/，详细操作可以参考https://zhuanlan.zhihu.com/p/198161777，然后再点击Install。

Do you want to install a symbolic link at /usr/local/cuda? # 是否将安装目录通过软连接的方式 link 到 /usr/local/cuda
选择yes

安装完成后，终端会有如下输出：

===========
= Summary =
===========

Driver:   Not Selected
Toolkit:  Installed in /usr/local/cuda-10.2/
Samples:  Installed in /root/, but missing recommended libraries

Please make sure that
 -   PATH includes /usr/local/cuda-10.2/bin
 -   LD_LIBRARY_PATH includes /usr/local/cuda-10.2/lib64, or, add /usr/local/cuda-10.2/lib64 to /etc/ld.so.conf and run ldconfig as root

To uninstall the CUDA Toolkit, run cuda-uninstaller in /usr/local/cuda-10.2/bin

Please see CUDA_Installation_Guide_Linux.pdf in /usr/local/cuda-10.2/doc/pdf for detailed information on setting up CUDA.
***WARNING: Incomplete installation! This installation did not install the CUDA Driver. A driver of version at least 440.00 is required for CUDA 10.2 functionality to work.
To install the driver using this installer, run the following command, replacing <CudaInstaller> with the name of this run file:
    sudo <CudaInstaller>.run --silent --driver

Logfile is /var/log/cuda-installer.log

检查cuda版本：

nvcc --version

结果如上图所示，说明安装成功。

多版本切换

如果安装了多个cuda版本，需要进行其他cuda版本的切换可以按照如下两个方法：

方法一：通过修改软链接的方式

1. 将~/.bashrc 下与cuda相关的路径都改为/usr/local/cuda/，而不使用具体某一cuda版本，例如cuda-10.2、cuda-11.3等。
2. 修改软连接

# 删除之前创建的软链接
rm -rf /usr/local/cuda
# 建立新的软连接
sudo ln -s /usr/local/cuda-11.3/ /usr/local/cuda/
# 查看当前cuda版本
nvcc --version

方法二：修改bashrc中cuda的路径
打开bashrc文件，在最后添加如下：（根据需要使用cuda版本修改版本号）：

# 根据自身情况修改cuda版本
export PATH=/usr/local/cuda-10.2/bin:$PATH
export CUDA_PATH=/usr/local/cuda-10.2
export CUDA_HOME=/usr/local/cuda-10.2
export LD_LIBRARY_PATH=/usr/local/cuda-10.2/lib64:$LD_LIBRARY_PATH

之后source更新一下source ~/.bashrc。

附录：可能遇到的报错

报错一：GCC版本不兼容

Failed to verify gcc version. See log at /var/log/cuda-installer.log for details.

使用以下指令进行安装：

sudo sh cuda_10.2.89_440.33.01_linux.run --override

报错二：安装路径报错

Installation failed. See log at /var/log/cuda-installer.log for details.

查看log的报错原因

cat /var/log/cuda-installer.log | grep [ERROR]

发现报错原因是：

[ERROR]: boost::filesystem::remove: Directory not empty: "/var/log/nvidia/.uninstallManifests/"

使用以下命令进行安装：

sudo sh cuda_10.2.89_440.33.01_linux.run --librarypath=/usr/local/cuda-10.2