tensorRT安装
1.官网下载合适版本的tar包
点击此处下载,此处下载为8.4版本,可选择其他版本进行下载以适配本机的cuda版本
2.解压tar包
tar -zxvf TensorRT-8.4.1.5.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz
3.添加环境变量
解压的目录为"/data/TensorRT-8.4.1.5"
export LD_LIBRARY_PATH=/data/TensorRT-8.4.1.5/lib:$LD_LIBRARY_PATH
export PATH=/data/TensorRT-8.4.1.5/bin:$PATH
sudo ldconfig
4.拷贝路径
为了避免其它软件找不到 TensorRT 的库,建议把 TensorRT 的库和头文件添加到系统路径下
进入/data/TensorRT-8.4.1.5目录下,执行以下命令
sudo cp -r ./lib/* /usr/lib
sudo cp -r ./bin/* /usr/bin
sudo cp -r ./include/* /usr/include
5.安装包
安装对应的版本tensorrt,选择合适的python及系统版本
cd /data/TensorRT-8.4.1.5/python/
pip3 install tensorrt-8.4.1.5-cp36-none-linux_x86_64.whl
安装对应的版本onnx
cd /data01/TensorRT-8.4.1.5/onnx_graphsurgeon/
pip3 install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
6.验证安装是否成功
import tensorrt
print(tensorrt.__version()__) # 8.4.1.5