YOLOv5实现tensorrt加速

一、下载yolo模型源码
二、yolo权重模型yolov5s.pt转tensorrt模型（.trt）
1、.py–>.onnx
yolov5中自带模型转换代码。
export.py

修改相关参数：–weights 输入的模型，–img-size 转出模型的输入图像尺寸，–include 输出模型类型（torchscript, onnx, openvino, engine, coreml, saved_model, pb, tflite, edgetpu, tfjs, paddle）

2、onnx–>engine
需要用到tensorrt中的trtexec.exe文件，将文件复制到yolov5文件夹下。

然后再yolov5文件夹下打开命令窗口，输入模型名称，等待转换完成。

E:\yolov5-master>trtexec --onnx=yolov5s.pt --saveEngine=yolov5s.engine --fp16

三、用yolov5s.pt进行测试
在detect.py下修改–weights 为yolov5s.engine，调整输入大小 --img-size

四、结果对比
对2分钟的一段视频进行测试，未部署tensorrt（.py）总用时：31.79s，平均每帧推理用时：3.3ms ；

部署tensorrt（.trt） 总用时：27.77s，推理用时：1.6ms 。

推理提升两倍左右。