win11 WSL ubuntu安装CUDA、CUDNN、TensorRT最有效的方式

已于 2023-12-24 16:07:49 修改
阅读量4.1k 收藏 43
点赞数 27
文章标签： ubuntu linux python
于 2023-12-24 16:02:54 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40102732/article/details/135182310
版权

一、前言（准备）

  • 所有的安装在电脑上具有nvidia的gpu基础上进行
  • 且已经安装好nvidia driver
  • 通过wsl已经安装好ubuntu
  • 理论上来说，如果windows上具有nvidia driver，wsl不需要再安装
  • 通过nvdia-smi查看电脑上cuda版本

之前我们已经通过wsl安装好ubuntu以及相关配置，这里在安装好的基础上进行cuda、cudnn、tensorrt的安装，并总结相关的报错，以及解决方案

二、安装cuda、cudnn、TensorRT

cuda版本选择：CUDA Toolkit Archive | NVIDIA Developer

  • 如果之前安装了cuda、cudnn、TensorRT，在验证时报错，或者运行实例代码报错，想要重新安装，建议将这3者卸载或者通过排查后卸载对应的部分再重新安装。
  • 安装时切记：一定要保证3者的cuda版本一致性，一定要保证3者的cuda版本一致性，一定要保证3者的cuda版本一致性（重要的事情说三遍），比如你安装的cuda版本应该不超过nvidia-smi显示的cuda版本（我这里可以看到显示的是11.6），向下兼容，我们这里为了保持一致性，安装的cuda是11.6
  • 最后一点总结，cuda可以通过选择版本，通过deb文件安装（版本确定后，cudnn、tensorrt完全是根据此版本然后保持一致性安装, cudnn与tensorrt的deb文件没有cuda的版本显示很容易安装到最新版本，导致最后cuda没有保持一致性，因此强烈建议cudnn与tensorrt用tar包安装（在下载tar包的时候，文件名会显示cuda版本）

1. cuda卸载命令

sudo apt-get --purge remove "*cuda*" "*cublas*" "*cufft*" "*cufile*" "*curand*" \
 "*cusolver*" "*cusparse*" "*gds-tools*" "*npp*" "*nvjpeg*" "nsight*" 
sudo apt-get autoremove

2. cudnn卸载命令

sudo apt-get purge libcudnn8
sudo apt-get purge libcudnn8-dev

3. tensorRT卸载命令(因为有可能下载python对用的tensorrt，所以会有pip的卸载)

sudo apt-get purge "libnvinfer*"
sudo apt-get purge "nv-tensorrt-repo*"
sudo apt-get purge graphsurgeon-tf onnx-graphsurgeon
pip3 uninstall tensorrt
pip3 uninstall uff
pip3 uninstall graphsurgeon
pip3 uninstall onnx-graphsurgeon
python3 -m pip uninstall nvidia-tensorrt

4. torch、torchvision、torchaudio卸载(比如在anaconda环境下你安装的这3个包的cuda版本与前面几个没有保持一致性，卸载重装)cudnn卸载命令

pip uninstall torch torchvision torchaudio

2.1 CUDA安装

确定安装的版本，比如我这里是cuda11.6（小于等于nvidia-smi的，建议直接安装等于11.6,别想太多，否则因为你安装了小于等又没有保持所有cuda版本的一致性而报错，直接安装等于nvidia-smi显示的版本）

注意WSL ubuntu安装cuda有它特殊的安装，跟其他非wsl ubuntu的安装不一样

1.  选择版本安装11.6，点进对应cuda toolkit版本选择的网址:CUDA Toolkit Archive | NVIDIA Developer

2. 选择对应的版本进行下载,比如11.6.2（11.6.1，11.6.0都可以),点击对应的选项，一定要选择WSL-Ubuntu

3. 在网页下方会弹出安装命令，依次执行

wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin
sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.6.2/local_installers/cuda-repo-wsl-ubuntu-11-6-local_11.6.2-1_amd64.deb
sudo dpkg -i cuda-repo-wsl-ubuntu-11-6-local_11.6.2-1_amd64.deb
sudo apt-key add /var/cuda-repo-wsl-ubuntu-11-6-local/7fa2af80.pub
sudo apt-get update
sudo apt-get -y install cuda

4.验证

  • 安装成功后会在ubunu /usr/loacl文件下出现关于你安装的cuda版本的文件夹（没安装之前是没有的，这个cuda版本与你的nvidia-smi显示的cuda版本是一致，可以认为，它默认是根据你windows上的cuda版本进行配置的
  • 系统环境配置 
    # 直接在终端运行
sudo touch /etc/profile.d/cuda.sh
echo 'export PATH=/usr/local/cuda/bin/:$PATH' | sudo tee -a /etc/profile.d/cuda.sh
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64/:/usr/lib/wsl/lib/:$LD_LIBRARY_PATH' | sudo tee -a /etc/profile.d/cuda.sh

# 这个会根据vim ~/.bsahrc去编辑，再source ~/.bashrc
export PAHT=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
export PATH=/usr/local/cuda-11.6/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-11.6/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
export CUDA_HOME=/usr/local/cuda-11.6
  • 命令验证:关闭ubuntu终端重新打开输入nvcc -V，显示如下信息表示安装成功 
    nvcc -V

2.2 CUDNN安装

CUDNN选择对应的tar包进行安装

1. 进入到cudnn的官方下载网址:Log in | NVIDIA Developer，勾选I agree

2. 注意到勾选后，出现了v8.9.7这些版本可能很新，找不到11.6的，因此点击Archived cuDNN Releases，出现如下界面，此时可选版本变多

3. 根据自己的cuda版本去选择，发现出现了11.5但没出现11.6,可以推测在上面几个版本，再通过选择tar包时，显示的文件名（会弹出cuda的版本）进行最后的确认，我选择的是8.4.0

4. 选择Local Installer for Linux86_64(Tar)。千万别选错了Tar包。

5. 将下载后的tar包复制到ubuntu的一个文件夹下，本文是home/用户名下的Downloads，最后通过解压安装，然后进行配置即可。

tar -xvf cudnn-linux-x86_64-8.4.0.27_cuda11.6-archive.tar.xz
sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include
sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64 
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

6. 验证是否安装成功，输入如下命令，显示如下图即安装成功

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

8.4.0与tar包显示一致，安装成功

2.3 TensorRT安装

TensorRT选择对应的tar包进行安装

1. 进入到TensorRT官方下载网址Log in | NVIDIA Developer，点击勾选I agree

2. 选择8.4 GA，注意到越网上对应的cuda版本越高，CUDA 11.6在8.4GA上可以找到

3. 将下载后的tar包复制到ubuntu的一个文件夹下，本文是home/用户名下的Downloads，最后通过解压安装，然后进行配置即可。安装完成后会出现TensorRT-(版本)的文件夹，这里我们已经安装好了
解压安装命令：tar -xzvf TensorRT-version.Linux.{arch}-gnu.cuda.{cudnn}.tar.gz

tar -xzvf TensorRT-8.4.1.5.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz

4. 解压后的文件名为TensorRT-{版本名}，该文件夹下有如下文件目录

5. 将TensorRT 下的lib绝对路径添加到系统环境中(根据自己的安装目录来)

export LD_LIBRARY_PATH=LDL​IBRARYP​ATH:<TensorRT−{version}/lib>

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/xionglang/Downloads/TensorRT-8.4.1.5/lib

6. 切换到python目录下，安装tensorrt python whl文件
注意：这里的pip安装一定是下载到自己的虚拟环境下，比如anaconda下pytorch环境激活后
根据当前环境的python版本安装对应的tensorrt, 我的当前环境python为3.9，就安装3.9对应的tensorrt whl文件

cd python
pip install tensorrt-8.4.1.5-cp39-none-linux_x86_64.whl

7. 安装装其他whl包, 根据自己的目录下文件名安装

  • uff
  • graphsurgeon
  • onnx_graphsurgeon
# 安装uff whl
cd ../uff
pip install uff-0.6.9-py2.py3-none-any.whl

# 安装graphsurgeon whl
cd ../graphsurgeon
pip install graphsurgeon-0.4.6-py2.py3-none-any.whl

# 安装onnx_graphsurgeon whl
cd ../onnx_graphsurgeon
pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl

8. 验证安装

  • 查看tensorRT安装版本
 sudo find / -name NvInferVersion.h

  • 运行tensort案例demo：切换到samples/sampleOnnxMNIST文件夹下编译，然后会在 TensoRT-{版本}/targets/x86_64-linux-gnu/bin/ 文件夹下得到一个sample_onnx_mnist的可执行文件，运行
# 切换到TensorRT-{版本}/samples/sampleOnnxMNIST/目录下编译
cd samples/sampleOnnxMNIST/
make
# 切换到TensorRT-{版本}/targets/x86_64-linux-gnu/bin目录下运行sample_onnx_mnist
cd ../../targets/x86_64-linux-gnu/bin/
./sample_onnx_mnist

  • python tesnorrt 验证
python
import tensorrt
print(tensorrt.__version__)
assert tensorrt.Builder(tensorrt.Logger())

注意到若assert tensorrt.Builder(tensorrt.Logger())弹出报错多半你的cuda版本对应不上，卸载重装tensorrt

2.4 torch、torchvision、torchaudio安装

最后我们在虚拟环境内安装的torch、torchvision、以及torchaudio也要保证cuda与上面3个保持一致性,去pytorch whl网站去下载对应版本的文件https://download.pytorch.org/whl/torch_stable.html，然后进行安装

# torch安装
pip install torch-1.12.0+cu116-cp39-cp39-linux_x86_64.whl 

# torchaudio安装
pip install torchaudio-0.12.0+cu116-cp39-cp39-linux_x86_64.whl

# torchvision安装
pip install torchvision-0.13.0+cu116-cp39-cp39-linux_x86_64.whl

以上就是CUDA、CUDNN与TensorRT的安装，走了很多坑，这是最有效的方式。windows以及其他ubuntu同理

Walker@Bruce Lee
关注
  • 27
    点赞
  • 踩
  • 43
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
WSL 2 Ubuntu 20.04 配置 CUDA
m
10-16 4137
需要注意的是，新版本的 Windows NVIDIA 显卡驱动已经内置了对 WSL 2 的支持，这也就意味着只需 Windows 中有 NVIDIA 显卡驱动即可，而不需要 WSL 2 中另外再安装。输出的 CUDA 版本并不等同，前者是 CUDA 运行 API 的版本，是实际安装的 CUDA 版本，而后者是 NVIDIA 显卡驱动能支持的最高 CUDA 运行 API 版本。可以看到，驱动版本为 522.25，所能支持的最新的 CUDA 的版本为 11.8。cuDNN 是进行 GPU 加速的深度神经网络库。
win10 + wsl2.0 + cuda12.0 + cudnn8.8.1 + MCgpu1.3 安装记录
最新发布
weixin_43528481的博客
05-16 1107
编译器的终端就可以直接运行mcGPU,同在linux里面打开的终端是一样的功能。使用cd home/我的用户名/MCGPU-master在visual studio code下方的终端里面进入改文件夹，执行就是运行。
在wsl2（Ubuntu20.04）中安装cudnn
qq_41048761的博客
11-20 7924
可以看cudnn的官方安装文档： 安装指南 * NVIDIA 深度学习 cuDNN 文档 1、根据之前安装的cuda版本来下载安装对应的cudnn版本 cuDNN Archive | NVIDIA Developer 2、比如我的cuda11.4，而且还是在Ubuntu里面安装，所以 3、选完后点击，下载安装包（3个都要下载） 4、把压缩包复制到Ubuntu系统里面去（在Ubuntu中先进入到Windows系统的文件夹下面去，再用sudo命令复制文件到/usr/local/下，最...
【AI】搭建Windows Linux子系统（WSL2）CUDA环境
zhoulizhu的博客
01-06 2729
介绍Windows Linux子系统（WSL2）搭建CUDA运行环境的操作
Win10自定义路径位置安装WSL2 (Ubuntu 20.04) 并配置CUDA
weixin_41973774的博客
05-24 5万+
非C盘，自定义位置安装WSL2 Ubuntu20.04，配置WSL2下的CUDA，以及一些有用的WSL2黑科技。
wsl2安装ubuntu及cuda记录
tianzhenba的博客
04-05 921
C:\Users\14270\AppData\Local\Packages\CanonicalGroupLimited.Ubuntu_79rhkp1fndgsc\LocalState文件夹下。打开windows Powershell或者windows Terminal,输入以下命令。然后修改bashrc,将cuda-11.1改为cuda-11.3,重新source一下即可。如果要切换多版本cuda,比如从cuda11改为cuda13。E:\WSLinux\ 表示系统安装位置。cudnn8.0版本以下。
【WSL2】【图形界面】【CUDA驱动】WSL2 Ubuntu+gnome原生图形界面及WSL2显卡CUDA驱动的安装
EDEN_RT的博客
06-26 3381
没有图形化界面的Ubuntu实在是看着不爽，虽然已经习惯用命令。为了更加方便使用WSL2子系统，还是配置了gnome原生桌面（虽然不是很轻量级，但是舒服啊！），然后因为有深度学习需求，有NVIDIA的显卡顺带配置了一下显卡驱动。下面看看如何配置WSL2图形界面和显卡驱动。
WSL2-Ubuntu20.04配置深度学习环境（CUDA、CUDNN、Pytorch）
AX642511931的博客
04-19 4625
WSL2-Ubuntu20.04配置深度学习环境（CUDA、CUDNN、Pytorch） 一、前言 现在网上的教程众说纷纭，都不是特别齐全，次帖旨在记录自己安装wsl2遇到的坑。 二、安装WSL2 WSL2与WSL1有本质上的区别，由于整个架构的更换，WSL2能够很好的支持电脑的GPU，这也是为什么采用WSL2的原因。 注：作者认为WSL2在windows11环境上才能更好运行（都是多次尝试后血的教训） 第一步： 首先保证自己电脑从来没有安装过WSL，因为如果之前电脑安装过WSL或者安装失败，再次安装会
wsl2安装docker，cuda和cudnn镜像
qq_41062677的博客
08-02 267
输入指令：curl https://get.docker.com | sh。
Windows11系统安装CUDA和CuDNN
牧羊女
08-23 1476
Windows11系统上的CUDA和CuDNN环境配置。
Windows通过WSL安装Ubuntu以及深度学习配置
qq_40102732的博客
12-14 2835
windows上通过WSL快速安装ubuntu及深度学习相关配置，亲测有效
WSL安装cuda（11.8）
u011876981的博客
10-15 1720
windows 10 下WSL2 安装cuda（11.8）
Windows11 WSL2 Ubuntu18.04环境中配置cuda及PyTorch
weixin_42077820的博客
04-21 3194
场景 习惯了Windows11 wsl2的linux环境。今天记录一下在wsl2的ubuntu18.04中配置cuda和PyTorch的过程。为其他同学排雷踩坑。 文章目录场景前言一、WSL2下配置PyTorch的特殊点二、配置步骤1.检查显卡驱动2.安装cuda3.安装并配置conda环境4.安装PyTorch三、踩坑参考 前言 首先，如果是刚刚接触Windows11 WSL2和PyTorch的同学不建议采用此文章所述的Windows11 WSL2 +cuda PyTorch的开发环境。 如果你对Wi
win11+4060配置CUDA11.8+pytorch2.0.0
rxxacm的博客
10-14 1万+
win11下4060配置cuda+pytorch
WSL2 Ubuntu子系统安装cuda+cudnn+torch
weixin_46119406的博客
08-14 1389
确保Windows系统版本高于windows10 21H2或Windows11，然后在Windows中将显卡驱动升级到最新即可，WSL2已支持对显卡的直接调用。
【Windows11】Cuda和Cudnn详细安装教程
热门推荐
Jin1Yang的博客
05-13 6万+
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
WSL2 安装cuda+cudnn+pytorch
ShaoPPP的博客
04-20 839
Notes WSL2 对 cuda 有很好的支持，采样 proxy 的方式，直接使用 windows 的显卡驱动，所以不要在 WSL2 里面装驱动。如果装了需要手动删除(没装过就不用了)： sudo apt-get --purge remove “cublas” “cuda*” “nsight*” sudo apt-get --purge remove “nvidia” sudo rm -rf /usr/local/cuda* sudo apt autoremove 大约 cuda 11.4~11
wsl-Ubuntu18.04子系统使用cuda
jiyi_guoshu的博客
09-25 497
网上教程不全，自己更新了一下。wsl-Ubuntu18.04字体系统配置使用cuda;
wsl2安装cuda cudnn
08-31
要在WSL2上安装CUDA和cuDNN，你需要完成以下步骤： 1. 确保你已经在Windows主机上安装了NVIDIA显卡驱动程序，并且它是最新版本。 2. 在WSL2中安装NVIDIA的容器运行时（nvidia-docker）以及相关工具。 - 打开WSL2终端，并执行以下命令来安装nvidia-docker： ``` $ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - $ distribution=$(. /etc/os-release;echo $ID$VERSION_ID) $ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list $ sudo apt-get update && sudo apt-get install -y nvidia-docker2 $ sudo systemctl restart docker ``` 3. 安装CUDA和cuDNN。 - 在WSL2终端中执行以下命令以安装CUDA和cuDNN： ``` $ sudo apt-get install nvidia-cuda-toolkit $ sudo apt-get install libnvinfer7 ``` 4. 配置WSL2以使用GPU。 - 编辑WSL2配置文件 `/etc/wsl.conf`（如果文件不存在则创建），并添加以下内容： ``` [wsl2] runtime=nvidia ``` 5. 重启WSL2。 - 在WSL2终端中执行以下命令以重启WSL2： ``` $ wsl --shutdown $ wsl ``` 6. 验证CUDA和cuDNN的安装。 - 在WSL2终端中，执行以下命令以验证CUDA和cuDNN的安装： ``` $ nvidia-smi $ nvcc --version ``` 这样，你就成功在WSL2上安装了CUDA和cuDNN。请确保按照上述步骤进行操作，并根据你的需求进行相应的配置。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值