下载
TensorRT官网:https://developer.nvidia.com/tensorrt
TensorRT下载:https://developer.nvidia.com/nvidia-tensorrt-download
* 需结合CUDA版本、驱动版本等选择TensorRT版本,尽可能使用高版本
安装
TensorRT安装包开箱即用,无需编译。
1. 解压
mv TensorRT-8.4.3.1.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz /usr/local
tar -zxvf TensorRT-8.4.3.1.Linux.x86_64-gnu.cuda-11.6.cudnn8.4.tar.gz
2. 修改环境变量
#tensort
export LD_LIBRARY_PATH=/usr/local/TensorRT-8.4.3.1/lib:$LD_LIBRARY_PATH
export LIBRARY_PATH=/usr/local/TensorRT-8.4.3.1/lib:$LIBRARY_PATH
3. 测试
cd samples/sampleMNIST
make
../../bin/sample_mnist
如果输出类似以下的情况,则说明安装成功。