目录
什么是TensorRT
TensorRT是由Nvidia推出的C++语言开发的高性能神经网络推理库,是一个用于生成部署的优化器和运行时引擎。和cudnn类似,但它不支持训练,只支持模型推理。且比cudnn模型推理效率更高。
下载TensorRT
官网下载地址。根据已经安装的CUDA Driver版本决定TensorRT的安装版本。
EA ,即Early Access,抢先体验版本;
GA ,即General Availability,稳定版本;
安装TensorRT
-
拷贝文件
解压安装包后,如下图所示:
将bin、lib、