yolov5 nv1060 GPU 识别图片

跟着网上的教程学习yolov5，刚开始使用CPU 进行推理，推理速度都得200ms以上。电脑也比较老旧，尝试更改size，使用较小的pt模型，速度还是无法接受。

想着电脑上还有Nv的1060 显卡，估计推理速度能加快10倍不止。

首先查看电脑cuda版本

cmd 窗口 输入： nvidia-smi

如果显卡版本驱动较低，可以升级驱动，我是通过nvdia geforce升级驱动

然后安装cuda-toolkit，nv 官网CUDA Toolkit Archive | NVIDIA Developer

 然后通过pip 安装相应的库：

pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu117

 通过以下命令判断是否安装成功

import torch
print(torch.__version__)
torch.cuda.is_available()
torch.cuda.device_count()

 

之后可以使用Yolov5 测试图片。

我安装的是python3.7 有遇到两个问题，如下：

（1）没有OrderedDict，通过安装typing_extensions ，修改maxvit.py文件

python -m pip install typing_extensions

from typing_extensions  import OrderedDict

（2）recompute_scale_factor问题，在upsampling.py中注释掉recompute_scale_factor

return F.interpolate(input, self.size, self.scale_factor, self.mode, self.align_corners)
                     # recompute_scale_factor=self.recompute_scale_factor)

使用GPU 推理图片，果然快了很多，只要10ms左右了。