本文是介绍tensorrt7的安装
1.下载tensorrt
下载链接:https://developer.nvidia.com/tensorrt
由于tensorrt的官网是外国网站,打开速度会比较慢(可以使用科学上网)
上图可以看到官网提供了两种的安装包(本文介绍tar的安装方法)
1.Debian和RPM安装包
优点:Debian和RPM安装会自动安装依赖
缺点:(1)必须在root权限安装;(2)无法灵活的将TensorRT安装到指定位置;(3)要求使用Debian或RPM软件包安装了CUDA Toolkit和cuDNN;(4)不允许同时安装多个版本的TensorRT
2.tar文件安装包
优点:可以同时安装多个TensorRT版本
缺点:必须要确保你已经安装了必要的依赖项,同时管理LD_LIBRARY_PATH(可参考该链接)
2.tar的具体安装方法
(1)根据自己系统环境下载对应的版本,我下载如下:
TensorRT-7.2.3.4.Ubuntu-18.04.x86_64-gnu.cuda-10.2.cudnn8.1.tar.gz
(2) 解压文件,并剪切到指定的安装位置上
tar xzvf TensorRT-7.2.3.4.Ubuntu-18.04.x86_64-gnu.cuda-10.2.cudnn8.1.tar.gz
(3)将lib路径加到系统的动态库路径上
#在终端输入
sudo gedit ~/.bashrc
#在弹出的文件中,加入下面的代码(LD_LIBRARY_PATH为tensorrt的具体路)
export LD_LIBRARY_PATH=/home/***/TensorRT-7.2.3.4/lib:$LD_LIBRARY_PATH
#关闭文件,并在终端输入
source ~/.bashrc
(3)进入python的文件夹中,安装tensorrt的python包
cd python
sudo pip3 install tensorrt-*-cp3x-none-linux_x86_64.whl
(4)如果你的代码用的是tensorflow框架写的,则需要安装uff
cd ..
cd uff
sudo pip3 install uff-0.6.5-py2.py3-none-any.whl
3.验证tensorrt是否安装成功
#在终端输入python,并输入下面代码。如果没有报错,则说明安装成功
import tensorrt