研究了一下午,记个笔记备忘。
Release x64
基本的设置是按照下面这个一步步实现的。
【Libtorch入门】使用C++部署YOLOv5目标检测
测试运行成功后,当我以为完成的时候发现,速度跟python下的相差有点大,再一对比检测时cpu和gpu的使用率发现,使用的还是cpu模式的。
然后又是一顿网上冲浪。
结论:大概是自带的yolov5s.torchscript.pt文件默认cpu模式的。(可能也不是,我只记得我是怎么一步步走过来的,全忘了为什么)
所以需要先使用python版本的models文件夹下的export.py重新导出一个。
导出前还要修改一下export.py文件(三处)
github上有具体方法
- model.model[-1].export = False
- model = attempt_load(opt.weights, map_location=torch.device(‘cuda’)) <