ubuntu20.04 GPU:NVIDIA-GEFORCE RTX3050TI CPU: AMD 5800H 集显:AMD Radeon Graphics 显存:4GB
Nvidia 显卡驱动安装
莫从官网下载,官网版本显卡的内核版本太高了,很容易安装完之后黑屏,拥有更好的解决方法。
如果安装之后黑屏了,在双系统选择页面,选择Advanced options for ubuntu,另选择一个内核启动,启动之后卸载掉已安装的nvidia显卡sudo NVIDIA-Linux-x86_64-xxx.xx.run --uninstall,或者sudo apt-get --purge remove nvidia*,即可正常启动。
建议在ubuntu软件与更新中,下载显卡驱动,避免诸多问题。
TensorRT安装
TensorRT 想要使用,其源码分为两个部分,一部分是核心源码TensorRT GA,相当于tensorRT的核心文件;另一部分是tensorRT的开源软件库TensorRT OSS,包含了TensorRT 的插件、解释器Caffe、Onnx等,也包括一些第三方库像protobuf等。
TensorRT OSS从Github下载:GitHub - NVIDIA/TensorRT: TensorRT is a C++ library for high performance inference on NVIDIA GPUs and deep learning accelerators.
TensorRT GA从Nvidia官网下载:https://developer.nvidia.com/nvidia-tensorrt-download
注意OSS和GA的对应版本
举例:此处GA版本选择TensorRT 8.2 GA Update 4 对应版本为TensorRT 8.2.5
在Online Documentation 里查看NVIDIA TensorRT Support Matrix 具体支持的CUDA和cuDNN版本。可见支持CUDA11.4 update3 和cuDNN8.2.1详见本文CUDA安装部分和cuDNN安装部分。
之后,在github寻找合适版本的OSS
在README.md中,打开Changelog.
搜索TensorRT对应版本号,选择22.05版本,对应TensorRT-OSS版本为8.2.5.1。
CUDA 安装
CUDA的安装仍需要注意版本问题。从上文得知支持11.4 Update 3 。注意它的CUDA 11.4版本为11.4 Update 3 ,并不是任意版本的CUDA 11,11.4 Update 3的下载地址对应为CUDA Toolkit 11.4 Update 3 Downloads
但是CUDA 11.4.3与CUDA 11.4.4经过对比,CUDA中的大部分库都是同一版本,二者选其一下载即可。本文举例安装版本为CUDA 11.4.4。
cuDNN安装
cuDNN版本需要对应,cuDNN Archive | NVIDIA Developer
下载后,将cuda文件夹下的文件,copy到cuda文件夹下
cp cuda/lib64/* /usr/local/cuda-11.4/lib64/
cp cuda/include/* /usr/local/cuda-11.4/include/
查看cuDNN版本
cat /usr/local/cuda-11.4/include/cudnn_version.h | grep CUDNN_MAJOR -A 2