首先下载
先pt文件转wts
python gen_wts.py -w runs\train\exp14\weights\best.pt -o yolov5n-obb-best.wts
然后把项目添加到vs2019.
先运行yolov5_gen.cpp生成exe,可以改名到buildfp16.exe,然后生成自己的engine文件,
buildfp16.exe -s yolov5n-obb-best.wts yolov5n-obb-fp16.engine n
然后运行yolov5_use.cpp生成exe,可以改名到inferfp16.exe,然后进行推理。
inferfp16.exe yolov5n-obb-fp16.engine images/OK_00002.bmp
结果与.pt的推理结果一样。
整个工程下载代码:
注意点:
直接下载的需要更改如下:
1.修改包含目录和库目录。自己对应的。
2.dll需要覆盖,用自己的版本,我的tensorrt8.4 opencv4.5.5,改了opencv的话,注意改下附加依赖项。
附加依赖项:
opencv_world455.lib
nvinfer.lib
nvinfer_plugin.lib
nvonnxparser.lib
nvparsers.lib
cublas.lib
cublasLt.lib
cuda.lib
cudadevrt.lib
cudart.lib
cudart_static.lib
cudnn.lib
cufft.lib
cufftw.lib
curand.lib
cusolver.lib
cusolverMg.lib
cusparse.lib
nppc.lib
nppial.lib
nppicc.lib
nppidei.lib
nppif.lib
nppig.lib
nppim.lib
nppist.lib
nppisu.lib
nppitc.lib
npps.lib
nvblas.lib
nvjpeg.lib
nvml.lib
nvrtc.lib
OpenCL.lib
3.修改自己的参数,输入长宽,分类。fp32,fp16
4
先运行yolov5_gen.cpp生成exe。把yolov5_use.cpp项目中排除。
然后yolov5_use.cpp包括到项目中,把yolov5_gen.cpp项目中排除。
一个个编译成exe。
.