ubuntu安装并进行tensorrt加速包YOLOv5推理

1. 下载tensorrt

笔者系统为ubuntu20.04, 由于Nvidia官网上面Tensorrt7.X版本没有找到对应ubuntu20.04的，因此使用ubuntu18.04版本的包进行下载试一试看能不能用:

下载后提取出来。ubuntu下载时选择amd64后缀的。

2. 安装tensorrt

2.1 安装python-tensorrt

选择虚拟环境对应的Python版本，安装：

pip install tensorrt-7.2.2.3-cp37-none-linux_x86_64.whl -i https://pypi.tuna.tsinghua.edu.cn/simple/

2.2 安装uff

进入到对应目录下，安装：

pip install uff-0.6.9-py2.py3-none-any.whl -i https://pypi.tuna.tsinghua.edu.cn/simple/

2.3 查看tensorrt版本

3. 生成engine文件

3.1 生成wts格式权重文件

cd yolov5

python gen_wts.py best.pt

3.2 cmake编译

cd tensorrtx/yolov5/

mkdir build

cd build

cmake ..

这里发现了报错，跟编译器有关：

在网上找了一下，发现需要安这个：

sudo apt-get install -y build-essential

这次再看就已经好了：

然后进行编译：

make

结果发现报错：NvInfer.h: 没有那个文件或目录