Ubuntu20.04 + TensorRT8.2.5 + CUDA11.4 + cuDNN8.2.1

ubuntu20.04 GPU:NVIDIA-GEFORCE RTX3050TI CPU: AMD 5800H 集显:AMD Radeon Graphics 显存:4GB

Nvidia 显卡驱动安装

莫从官网下载,官网版本显卡的内核版本太高了,很容易安装完之后黑屏,拥有更好的解决方法。

如果安装之后黑屏了,在双系统选择页面,选择Advanced options for ubuntu,另选择一个内核启动,启动之后卸载掉已安装的nvidia显卡sudo NVIDIA-Linux-x86_64-xxx.xx.run --uninstall,或者sudo apt-get --purge remove nvidia*,即可正常启动。

建议在ubuntu软件与更新中,下载显卡驱动,避免诸多问题。

TensorRT安装

TensorRT 想要使用,其源码分为两个部分,一部分是核心源码TensorRT GA,相当于tensorRT的核心文件;另一部分是tensorRT的开源软件库TensorRT OSS,包含了TensorRT 的插件、解释器Caffe、Onnx等,也包括一些第三方库像protobuf等。

TensorRT OSS从Github下载:GitHub - NVIDIA/TensorRT: TensorRT is a C++ library for high performance inference on NVIDIA GPUs and deep learning accelerators.

TensorRT GA从Nvidia官网下载:https://developer.nvidia.com/nvidia-tensorrt-download 

注意OSS和GA的对应版本

举例:此处GA版本选择TensorRT 8.2 GA Update 4 对应版本为TensorRT 8.2.5

Online Documentation 里查看NVIDIA TensorRT Support Matrix 具体支持的CUDA和cuDNN版本。可见支持CUDA11.4 update3 和cuDNN8.2.1详见本文CUDA安装部分和cuDNN安装部分。

之后,在github寻找合适版本的OSS

在README.md中,打开Changelog.

搜索TensorRT对应版本号,选择22.05版本,对应TensorRT-OSS版本为8.2.5.1。

CUDA 安装

CUDA的安装仍需要注意版本问题。从上文得知支持11.4 Update 3 。注意它的CUDA 11.4版本为11.4 Update 3 ,并不是任意版本的CUDA 11,11.4 Update 3的下载地址对应为CUDA Toolkit 11.4 Update 3 Downloads 

但是CUDA 11.4.3与CUDA 11.4.4经过对比,CUDA中的大部分库都是同一版本,二者选其一下载即可。本文举例安装版本为CUDA 11.4.4

cuDNN安装

cuDNN版本需要对应,cuDNN Archive | NVIDIA Developer 

下载后,将cuda文件夹下的文件,copy到cuda文件夹下

cp cuda/lib64/* /usr/local/cuda-11.4/lib64/

cp cuda/include/* /usr/local/cuda-11.4/include/

查看cuDNN版本

cat /usr/local/cuda-11.4/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

要在Ubuntu 20.04上卸载TensorRT,可以按照以下步骤进行操作: 1. 打开终端。 2. 输入以下命令,以卸载TensorRT软件包: ``` sudo apt-get remove tensorrt ``` 3. 输入以下命令,以卸载libnvinfer软件包: ``` sudo apt-get remove libnvinfer7 ``` 4. 输入以下命令,以卸载libnvinfer-dev软件包: ``` sudo apt-get remove libnvinfer-dev ``` 5. 输入以下命令,以卸载libnvinfer-plugin-dev软件包: ``` sudo apt-get remove libnvinfer-plugin-dev ``` 6. 输入以下命令,以卸载libnvinfer-plugin7软件包: ``` sudo apt-get remove libnvinfer-plugin7 ``` 7. 输入以下命令,以卸载libnvparsers-dev软件包: ``` sudo apt-get remove libnvparsers-dev ``` 8. 输入以下命令,以卸载libnvparsers7软件包: ``` sudo apt-get remove libnvparsers7 ``` 9. 输入以下命令,以卸载libnvonnxparsers-dev软件包: ``` sudo apt-get remove libnvonnxparsers-dev ``` 10. 输入以下命令,以卸载libnvonnxparsers7软件包: ``` sudo apt-get remove libnvonnxparsers7 ``` 11. 输入以下命令,以卸载libnvinfer-bin软件包: ``` sudo apt-get remove libnvinfer-bin ``` 12. 输入以下命令,以卸载libnvinfer-doc软件包: ``` sudo apt-get remove libnvinfer-doc ``` 13. 如果您使用了其他与TensorRT相关的软件包,可以使用类似的命令进行卸载。 请注意,卸载这些软件包可能会导致其他依赖项的问题,因此在卸载之前,请确保您了解这些可能的影响。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

元让_vincent

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值