图像识别笔记 - yolov5模型到加速推理引擎模型

****** github地址*****  https://github.com/Monday-Leo/Yolov5_Tensorrt_Win10   ******

 

1.安装anaconda
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/

创建虚拟环境 torchtest
conda create --name torchtest python=3.9

在这个虚拟环境下安装pytorch
conda install pytorch==1.13.0 torchvision==0.14.0 torchaudio==0.13.0 cpuonly -c pytorch
（也可手动下载再安装）
安装完后，通过以下命令验证是否安装成功：
在当前虚拟环境下（torchtest）输入python后，回车后，输入：
import torch
import torchvision

备注：包安装优先选择conda，无法成功，则可以尝试用pip安装试试。

》》》》》vscode运行 虚拟环境并生成引擎文件
activate
conda activate torchtest
C:\Users\adminuser\.conda\envs\torchtest\python.exe 
C:\Users\adminuser\.conda\envs\torchtest\python.exe gen_wts.py -w yolov5s.pt -o yolov5s.wts
》》》》》

此时如果遇到模块缺失，就安装相应的模块
通过pip install安装（前提是在相应的虚拟环境下）
比如缺失seaborn，那么执行(torchtest) C:\Users\adminuser>pip install seaborn
注意缺失cv2，那么执行opencv_python.   (torchtest) C:\Users\adminuser>pip install opencv_python
最后，成功后，在当前目录下会生成一个yolov5s.wts。

****** github地址*****  https://github.com/Monday-Leo/Yolov5_Tensorrt_Win10   ******
编译以上项目地址，生成一个exe
生成exe之前，
准备好cuda版本（11.1或10.2以上）
准备好cudnn，官网下载，解压即可
准备好tensorRT： 官网下载TensorRT-7.2.3.4 + cuda-11.1 + cudnn8.1
(解圧后，将include目录下的文件复制到CUDA安装目录下对应的include；lib目录下的dll文件和lib文件分别复制到CUDA安装目录下的bin和lib\x64目录）
记住本项目下载的目录以及dirent.h所在绝对目录，cmake时候填入相关选项使用
生成成功后，会有一个yolov5.exe。
把之前生成的.wts文件拷贝入当前目录
执行：yolov5.exe -s yolov5s.wts yolov5s.engine s
等待十几分钟后，会生成序列化推理引擎。（参数s表示是s模型，同理，可以把s改为m，则意味着用m模型）