Ubuntu安装TensorRT

关注公众号：『AI学习星球』
回复：TensorRT 即可获取安装包下载。
算法学习、4对1辅导、论文辅导或核心期刊可以通过公众号或CSDN滴滴我

---

1. 安装CUDA

a. 下载CUDA

CUDA下载链接：https://developer.nvidia.com/cuda-toolkit-archive

b. 安装CUDA

1. 运行文件
   命令1：sudo sh cuda_10.0.130_410.48_linux.run
   或
   命令2：sudo bash cuda_10.0.130_410.48_linux.run

然后进入到安装界面


点击Install进行下载

2. 配置环境变量

sudo vim ~/.bashrc

export PATH= $PATH:/usr/local/cuda-11.4/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.4/lib64
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-11.4

c. 验证CUDA

终端输入：nvcc -V

2. 安装CUDNN

a. 下载CUDNN

CUDNN下载链接：https://developer.nvidia.com/rdp/cudnn-archive

b. 安装CUDNN

1. 解压
   tar -xvzf cudnn-11.4-linux-x64-v8.2.2.26.tgz
2. 将解压后的文件复制到CUDA的对应目录下

sudo cp cuda/include/cudnn.h /usr/local/cuda-11.4/include*
sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.4/lib64*
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

c. 验证CUDNN

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

3. 安装TensorRT

a. 下载TensorRT

要注意，TRT和CUDA和CUDNN是有版本对应关系的
下载链接：https://developer.nvidia.com/nvidia-tensorrt-download

b. 解压TensorRT

tar -zxvf TensorRT-7.0.0.11.Ubuntu-18.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz
然后配置环境变量

vim /etc/profile
#加入下面的环境变量
export TENSORRT_ROOT={你的tensorrt目录}
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:{你的tensorrt目录}/lib
 
#保存:wq
source /etc/profile

c. 安装TensorRT

在解压后TensorRT的文件夹里有个python文件，进入后

pip install tensorrt-7.0.0.11-cp36-none-linux_x86_64.whl

d. 安装uff和graphsurgeon

在在解压后TensorRT的文件夹里有个uff文件和graphsurgeon文件夹，进入后
pip install uff-0.6.5-py2.py3-none-any.whl
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl

e. 验证是否安装成功

1. 命令行切换到TensorRT-7.0.0.11\data\mnist，执行命令：python download_pgms.py，并完成下载数据
2. 切换到TensorRT-7.0.0.11/samples/sampleMNIST/，输入make。编译项目生成可执行文件。
3. 切换到TensorRT-7.0.0.11/bin，输入./sample_mnist

f. 备注

1. 在编译后可能需要重新编译

输入命令：

sudo make clean
 
sudo make CUDA_INSTALL_DIR=/usr/local/cuda

---

关注公众号：『AI学习星球』
回复：TensorRT 即可获取数据下载。
算法学习、4对1辅导、论文辅导或核心期刊可以通过公众号或CSDN滴滴我