Tensorrt的相关杂记

Tensorrt的相关杂记

一. Tensorrt编译相关

1. 准备 TensorRT安装包和 TensorRT-OSS github 的代码，两者的地址分别在：https://developer.nvidia.com/nvidia-tensorrt-downlo 和 https://github.com/NVIDIA/TensorRT，本记录以 Tensorrt-8.5.1.7版本为例进行。

2. 首先下载 TensorRT 8.5 GA for Linux x86_64 and CUDA 11.0, 11.1, 11.2, 11.3, 11.4, 11.5, 11.6, 11.7 and 11.8 TAR Package, 然后解压，本记录把解压后的目录放在 /opt 目录下，得到 /opt/TensorRT-8.5.1.7/，然后配置环境变量，把 /opt/TensorRT-8.5.1.7/bin 加到 $PATH 中，把 /opt/TensorRT-8.5.1.7/lib放在 LD_LIBRARY_PATH中。

3. 以上通过 tar包配置完成 tensorrt的路径之后，顺带可以把对应 python安装包给装上。

   pip install /opt/TensorRT-8.5.1.7/python/tensorrt-8.5.1.7-cp38-none