Ubuntu16安装NVIDIA驱动+CUDA11.1.1+cudnn8.1.1+tensorrt7.2.3 （2021.5更新）

0.概述

发现网上缺少比较新的配置教程，现在好多都更新了，特此纪念四次成功的经历
注意！之前博主试过cuda10系列的，tensorRT疯狂报错，后来发现用wheel安装 tensorrt7.2.3 必须要升级到cuda11.1以及一大堆适配条件
安装之前要认真看想安装的版本的官方文档！！

现在有两条路：
1.用run装cuda, 用wheel安装 tensorrt，好处是可以自己选驱动的版本；（此文选择的方法）
2.如果想安装tensorRT的deb版本，cuda必须使用deb安装，然而cuda的deb版本安装的时候可能会覆盖你已经安装的nvidia驱动，先卸载了nvidia驱动，再执行cuda.deb包的安装，完成安装后会自动给你安装合适的nvidia驱动。
引用这个博客的思路

1.安装驱动

百试不爽的方法
还参考的这个方法
划重点：随时用dpkg -l|grep cuda和dpkg -l|grep nvidia检查是否卸载干净

2.安装cuda

卸载cuda
这个博客总结的很好

cd /usr/local/cuda-11.1/bin/
sudo ./cuda-uninstaller
sudo rm -rf /usr/local/cuda-11.1

划重点+1：随时用dpkg -l|grep cuda和dpkg -l|grep nvidia检查是否卸载干净

最新发现 这一步好像会让驱动也没了… 那就重新从驱动装起吧

安装run cuda
先去官网输入指令下载安装包，无权限就sudo wget
所有版本的下载地址
给run文件赋予执行权限：

sudo chmod a+x cuda_11.1.1_455.32.00_linux.run

后面的参数非常重要，不可省略：

sudo sh cuda_11.1.1_455.32.00_linux.run --no-opengl-libs

然后accept 同意安装 用空格取消驱动选择 因为已经安了

gedit ~/.bashrc

配置环境变量

# <<< conda init <<<
export PATH=/usr/local/cuda-11.1/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.1/lib64:$LD_LIBRARY_PATH

保存后，重新载入配置：source ~/.bashrc
此时可以sudo reboot重启一下
查看CUDA版本：nvcc -V
测试CUDA的Sample：

# 编译并测试设备 deviceQuery：
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
sudo make
./deviceQuery

# 编译并测试带宽 bandwidthTest：
cd ../bandwidthTest
sudo make
./bandwidthTest

如果这两个测试的最后结果都是Result = PASS，说明CUDA安装成功啦。

安装cudnn

用tar安装cuDNN：解压后，将其include与lib64下的内容分别移至cuda目录下include与lib64中即可

上官网下载好tgz 选这种library就行

如果不是tgz文件
cp cudnn-10.2-linux-x64-v8.1.1.33.solitairetheme8 cudnn-10.2-linux-x64-v8.1.1.33.tgz
tar -xzvf  cudnn-10.2-linux-x64-v8.1.1.33.tgz -C /home/


tar -xzvf cudnn-11.2-linux-x64-v8.1.1.33.tgz
cd cuda
sudo cp include/* /usr/local/cuda/include
sudo cp lib64/* /usr/local/cuda/lib64

配置环境变量

# cudnn init
export CUDNN_HOME=/home/bbnclxy/Downloads/cuda
export LD_LIBRARY_PATH=${CUDNN_HOME}/lib64:$LD_LIBRARY_PATH
export CPLUS_INCLUDE_PATH=${CUDNN_HOME}/include:$CPLUS_INCLUDE_PATH

测试

cat /usr/local/cuda-11.1/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

如果弹出来版本号就可以了

tensorrt安装

按照官网的一步步来就行 这里
环境变量添加 后来发现这种方法其实不用加这个

# tensorrt init
export LD_LIBRARY_PATH=/home/bbnclxy/TensorRT-7.2.3.4/lib:$LD_LIBRARY_PATH
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/bbnclxy/TensorRT-7.2.3.4/lib
export CUDA_INSTALL_DIR=/usr/local/cuda-11.1
export CUDNN_INSTALL_DIR=/usr/local/cuda-11.1

export PATH=/usr/local/cuda/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
export CUDA_HOME=/usr/local/cuda

tensor2trt安装

git clone https://github.com/NVIDIA-AI-IOT/torch2trt
cd torch2trt
python setup.py install

pytorch 安装
在官网找到适合的gpu的版本
https://pytorch.org/get-started/locally/