Jetson NX 使用Tensorrt加速yolov4/yolov4-tiny模型

这里默认你已经获得了你自己训练好的yolo模型，博主这里常用的是darknet框架训练yolo模型，下面会以yolov4和yolov4-tiny举例。

#下载、安装环境

git clone https://github.com/jkjung-avt/tensorrt_demos.git

下载完文件后定位到ssd文件执行 install_pycuda.sh

cd ${HOME}/project/tensorrt_demos/ssd
./install_pycuda.sh

接着需要安装onnx

 sudo apt-get install protobuf-compiler libprotoc-dev
 sudo pip3 install onnx==1.4.1

接着定位到plugins文件夹build相关程序

cd ${HOME}/project/tensorrt_demos/plugins
make

#下载并转换yolo文件
下载模型文件(这里会下载yolov4和yolov3的三个不同版本的文件)

cd ${HOME}/project/tensorrt_demos/yolo
./download_yolo.sh	

转换yolo文件这里分两个步骤
1.将.weight模型文件转换成 .onnx 格式
2.再将 .onnx文件转换成 .trt 格式

python3 yolo_to_onnx.py -m yolov4
python3 onnx_to_tensorrt.py -m yolov4 -v

转换时间可能会比较久，耐心等待下
同样yolov4-tiny的操作如下

python3 yolo_to_onnx.py -m yolov4-tiny
python3 onnx_to_tensorrt.py -m yolov4-tiny -v

#使用TRT运行yolov4、yolov4-tiny
–usb 代表使用USB摄影机， --model则是选择特定模型：
yolov4:

cd ${HOME}/project/tensorrt_demos
python3 trt_yolo.py --usb 0 --model yolov4

yolov4-tiny:

cd ${HOME}/project/tensorrt_demos
python3 trt_yolo.py --usb 0 --model yolov4-tiny

#测试效果
yolov4在原darknet框架下运行帧率只有1FPS，使用tensorrt后可达到15FPS
yolov4-tiny在原darknet框架下运行帧率只有10FPS，使用tensorrt后可达到50FPS