yolov8实战——yolov8TensorRT部署(python推理)(保姆教学)
最近用到yolov8,但是寻找了一圈才找到了yolov8最佳的部署方法,限于python,所以在此进行总结记录,方便众人,看完此篇,不会纯属自己问题,与我无瓜0.0
一 、准备好代码和环境
先创建一个环境吧:
conda create -n trt python=3.9
安装TensorRt
TensorRt下载链接
下载之后,解压,吧其中的bin、include、lib的文件都放到安装cuda的对应文件里即可,然后激活环境trt,pip install python/tensorrt-8.6.1-cp39-none-win_amd64.whl
下载代码和安装环境
git clone https://github.com/triple-Mu/YOLOv8-TensorRT.git
cd YOLOv8-TensorRT
pip install -r requirements.txt
部署和推理
构建ONNX
python export-det.py --weights weights/v8s4/weights/last.pt --iou-thres 0.65 --conf-thres 0.25 --topk 100 --opset 14 --input-shape 1 3 640 640 --device cuda:0 --sim
构建engine
这是集成了nms,速度更快
python build.py --weights weights/v8s-faster-twoc-Lcls-coco802/weights/best.onnx --iou-thres 0.65 --conf-thres 0.25 --topk 100 --device cuda:0 --fp16
无torch推理
python infer-det-without-torch.py --engine best.engine --imgs data --show --method pycuda
torch推理
python infer-det.py --engine best.engine --imgs data --show