YOLOv5 detect.py开启半精度推理

YOLOv5 detect.py开启半精度推理

YOLOv5开启半精度推理一般会有这么一个流程：

pt -> onnx -> engine

找到这么一个博客，就是使用YOLOv5的expect.py进行转换，然后运行engine文件进行推理的：半精度推理

上面这个博客应该是没有问题的，但是我现在环境没装好，还没办法实践，等环境装好后会补充测试。

但是在我装环境的过程中我发现，在detect.py中的模型参数包含了开启半精度的选项parser.add_argument('--half', action='store_true', help='use FP16 half-precision inference')，所以我就尝试着做了一下测试。

我这里分别使用YOLOv5s和YOLOv5x进行了一下测试：开启半精度预测之后，根据下面两个表格可以看出，模型越大，检测的图片越多，那么半精度推理所提高的速度也就越多。

但是我也有存在疑问的，精度下降得多不多？由于是使用了detect.py文件进行推理的，无法判断，现在想到的办法是去查看测试得到的CSV文件。根据CSV文件所展示的，开启半精度之后预测的概率确实是会降低的。更具体的精度比较如果后面有想到了实验的方法，也会进行补充。