非root用户安装多版本cuda

以下内容仅为示例（cuda12.1+cudnn8.9.5），不同版本的cuda可能有所不同

安装cuda12.1

1. 下载cuda的runfile
   下载地址：https://developer.nvidia.com/cuda-toolkit-archive
   选择Linux平台、x86_64、ubuntu、选择合适的ubuntu版本（uname -a、lsb_releaese -a，实例中的服务器版本为20.04）、runfile(local)
   

2. 在主目录下创建cuda文件夹，按照bash istaller的提示进行操作

   mkdir cuda
   cd cuda 
   mkdir cuda121
   wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.run
   chmod +x cuda_12.1.0_530.30.02_linux.run
   sh cuda_12.1.0_530.30.02_linux.run
   

   如果出现Log file not open. Segmentation fault (core dumped)错误，请删除 /tmp/cuda_installer.log

3. 在运行过程中会遇到一些选项：主要记住不要重新下载驱动！！！！

4. 选择continue,即不重装驱动
   

5. accept
   

6. 安装选项，这里要注意取消勾选某些选项，只安装CUDA Toolkit
   

7. 在options中选择自己的安装路径，一定不要用系统默认路径！！！要同时修改toolkit和library的路径
   
   

8. 在options CUDA Toolkit下取消全部选项
   

9. Install

安装cudnn

根据安装的CUDA工具包版本在官网选择适合版本的cuDNN

复制cuDNN库的链接，使用wget下载或者下载到自己电脑之后再传到服务器上
解压cuDNN文件，并进入解压出的文件夹，拷贝文件到/home/user/cuda/cuda121中

# 解压缩
xz -d cudnn-linux-x86_64-8.9.5.30_cuda12-archive.tar.xz
tar -xvf cudnn-linux-x86_64-8.9.5.30_cuda12-archive.tar -C cudnn895
# 复制
cp cudnn-*12-archive/include/cudnn*.h /home/xxx/cuda/cuda121/include
cp -P cudnn-*12-archive/lib/libcudnn* /home/xxx/cuda/cuda121/lib64
chmod a+r /home/xxx/cuda/cuda121/include/cudnn*.h /home/xxx/cuda/cuda121/lib64/libcudnn*

切换CUDA版本

切换CUDA版本：直接在~/.bashrc中注释掉原来的路径，补充上新的路径即可

export PATH=$PATH:/home/xxx/cuda/cuda121/bin
export LIBRARY_PATH"=/home/xxx/cuda/cuda121/lib64:$LIBRARY_PATH"
export LD_LIBRARY_PATH="/home/xxx/cuda/cuda121/lib64:$LD_LIBRARY_PATH"