yolov8在TensorRT+cuda加持下的性能测试

TensorRT系列之 Windows10下yolov8 tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/128865904)

TensorRT系列教程之 Linux下 yolov8 tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/128758544

TensorRT系列教程之 Linux下 yolov7 tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/128759430

TensorRT系列教程之 Linux下 yolov6 tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/133771238

TensorRT系列教程之 Linux下 yolov5 tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/133773842

TensorRT系列教程之 Linux下 yolox tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/133851320

TensorRT系列教程之 Linux下 u2net tensorrt模型加速部署

https://blog.csdn.net/m0_72734364/article/details/133887663?spm=1001.2014.3001.5501

更多：
https://blog.csdn.net/m0_72734364/article/details/133901479?spm=1001.2014.3001.5501

测试信息

• 测试平台：linux+docker
• 硬件：NVIDIA 3070
• 模型输入：batchx3x640x640（测试设置batch为8）
• 测试模型：yolov8n，yolov8s，yolov8n，更多模型测试可以去网盘下载：文件分享

测试仓库

yolov8相关tensrrt+cuda部署代码在仓库TensorRT-Alpha:

https://github.com/FeiYull/tensorrt-alpha

测试结果速览

测试指令：

# yolov8n
./app_yolov8  --model=../../data/yolov8/yolov8n.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4   --show
# yolov8s
./app_yolov8  --model=../../data/yolov8/yolov8s.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4   --show
# yolov8m
./app_yolov8  --model=../../data/yolov8/yolov8m.trt --size=640 --batch_size=8 --video=../../data/face-demographics-walking-and-pause.mp4   --show

需要注意：下图中，preprocess包含图像预处理，例如：resize, padding等。postprocess包含decode和NMS，下面测试结果速览，仅供参考：

yolov8n：

 yolov8s:

 yolov8m:

 yolov8l yolov8x可以自己去仓库玩耍一下。

更新计划

“Win10环境下：yolov8的模型部署运行教程”