在win7 x64上利用tensorRT进行yolo8推理环境如下:
1.win7 sp1 安装UpdatePack7R2-24.3.13 补丁包。由于win7根证书过期,不安装补丁无法安装最新cuda和显卡驱动;
2.安装dotnet4.7 安装vs2019 ,如果需要调试程序,先装vs2019,再装cuda。
3.安装显卡驱动,针对2080显卡,安装474.11驱动,cuda版本 11.4(cuda_11.4.0_471.11_win10) !!!!先装vs2019,再装cuda 11.4
4.解压 cudnn-windows-x86_64-8.5.0.96_cuda11-archive 、TensorRT-8.5.3.1.Windows10.x86_64.cuda-11.8.cudnn8.6 添加系统变量
5.解压opencv,添加系统变量
6.例程采用C++编写,使用官方yolo8 python环境训练得到bestn.pt,导出best.onnx,运用官方trtexec转为best.engine后,利用tensorRT 推理,后处理使用CPU,fps 稳定60~70;后处理放GPU,fps100。