在英特尔独立显卡上部署YOLOv5 v7.0版实时实例分割模型

341 篇文章 89 订阅
249 篇文章 4 订阅

作者:贾志刚 英特尔物联网创新大使 

        

目录

1.1 YOLOv5实时实例分割模型简介

1.2 英特尔®消费级锐炫™ A 系列显卡简介

1.3  在英特尔独立显卡上部署YOLOv5-seg模型的完整流程

1.3.1 搭建YOLOv5开发环境和OpenVINO部署环境

1.3.2 验证YOLOv5开发环境和OpenVINO部署环境

1.3.3 导出yolov5s-seg OpenVINO IR模型

1.3.4 使用Netron工具查看yolov5s-seg.onnx 模型的输入和输出

1.3.5 使用OpenVINO Runtime API 编写yolov5s-seg推理

1.4 结论


        本文将介绍在基于OpenVINO在英特尔独立显卡上部署YOLOv5实时实例分割模型的全流程,并提供完整范例代码供读者使用。

1.1 YOLOv5实时实例分割模型简介

 YOLOv5是AI开发者友好度最佳的框架之一,与其它YOLO系列相比:

  • 工程化水平好,工程应用时“坑”少
  • 文档详实友好,易读易懂
  • 既容易在用户的数据集上重训练又容易在不同的平台上进行部署
  • 社区活跃度高(截至2022-11-27有33.2k GitHub星, 287个贡献者)
  • 项目演进速度快
  • 默认支持OpenVINO部署
  • 在典型行业(制造业、农业、医疗、交通等)有广泛应用。

                2022年11月22日,YOLOv5 v7.0版正式发布,成为YOLO系列中第一个支持实时实例分割(Real Time Instance Segmentation)的框架。从此,YOLOv5框架不仅具有实时目标检测模型,还涵盖了图像分类和实例分割。

图片来源: https://github.com/ultralytics/yolov5/releases

        与实时实例分割SOTA性能榜中的模型相比YOLOv5作者发布的YOLOv5-Seg模型数据,无论是精度还是速度,都领先于当前SOTA性能榜中的模型。

1.2 英特尔®消费级锐炫™ A 系列显卡简介

        2022年英特尔发布了代号为Alchemist第一代消费级锐炫™桌面独立显卡,当前英特尔京东自营旗舰店里销售的主要型号为A750A770,其典型参数如下图所示。OpenVINO™ 从2022.2版开始支持英特尔独立显卡,包括英特尔® 数据中心 GPU Flex 系列和英特尔® 锐炫™系列。

1.3  在英特尔独立显卡上部署YOLOv5-seg模型的完整流程

在英特尔独立显卡上部署YOLOv5-seg模型的完整流程主要有三步:

  1. 搭建YOLOv5开发环境和OpenVINO部署环境
  2. 运行模型优化器(Model Optimizer)优化并转换模型
  3. 调用OpenVINO Runtime API函数编写模型推理程序,完成模型部署

本文将按照上述三个步骤,依次详述。

1.3.1 搭建YOLOv5开发环境和OpenVINO部署环境

        最近的YOLOv5 Github 代码仓,即YOLOv5 v7.0,已经将openvino-dev[onnx]写入requirement.txt文件,当执行pip install -r requirements.txt,会安装完YOLOv5开发环境和OpenVINO部署环境。

git clone https://github.com/ultralytics/yolov5  # clonecd yolov5

cd yolov5

pip install -r requirements.txt

1.3.2 验证YOLOv5开发环境和OpenVINO部署环境

        执行完上述命令后,运行命令

python segment\predict.py --source data\images

        执行结果如下图所示,说明YOLOv5开发环境和OpenVINO部署环境已搭建成功。

1.3.3 导出yolov5s-seg OpenVINO IR模型

        使用命令:

python export.py --weights yolov5s-seg.pt --include onnx

        获得yolov5s-seg ONNX格式模型:yolov5s-seg.onnx。

        然后运行命令:

mo -m yolov5s-seg.onnx --data_type FP16

    获得yolov5s-seg IR格式模型:yolov5s-seg.xml和yolov5s-seg.bin。

1.3.4 使用Netron工具查看yolov5s-seg.onnx 模型的输入和输出

        使用Netron(https://netron.app/),查看yolov5s-seg.onnx模型的输入和输出,如下图所示:

从图中可以看出:yolov5s-seg模型

  • 输入节点名字:“images”;数据: float32[1,3,640,640]
  • 输出节点1的名字:“output0”;数据:float32[1,25200,117]。其中117的前85个字段跟YOLOv5定义完全一致,即检测框信息;后32个字段用于计算掩膜数据。
  • 输出节点2的名字:“output1”;数据:float32[1,32,160,160]。Output1的输出与output0后32个字段做矩阵乘法后得到的数据,即为对应目标的掩膜数据。

1.3.5 使用OpenVINO Runtime API 编写yolov5s-seg推理

        由于yolov5s-seg模型是在yolov5模型的基础上增加了掩膜输出分支,所以图像数据的预处理部分跟yolov5模型一模一样

整个推理程序主要有五个关键步骤:

  • 第一步:创建Core对象;
  • 第二步:载入yolov5s-seg模型,并面向英特尔独立显卡编译模型
  • 第三步:对图像数据进行预处理
  • 第四步:执行AI推理计算
  • 第五步:对推理结果进行后处理,并可视化处理结果。

整个代码框架如下所示:

# Step1: Create OpenVINO Runtime Core

core = Core()

# Step2: Compile the Model, using dGPU A770m

net = core.compile_model("yolov5s-seg.xml", "GPU.1")

output0, output1 = net.outputs[0],net.outputs[1]

b,n,input_h,input_w = net.inputs[0].shape # Get the shape of input node

# Step3: Preprocessing for YOLOv5-Seg

# ...

# Step 4: Do the inference

outputs = net([blob])

pred, proto = outputs[output0], outputs[output1]

# Step 5 Postprocess and Visualize the result

# ...

其中YOLOv5-seg的前处理跟YOLOv5一样,范例代码如下:

im, r, (dh, dw)= letterbox(frame, new_shape=(input_h,input_w)) # Resize to new shape by letterbox

im = im.transpose((2, 0, 1))[::-1]  # HWC to CHW, BGR to RGB

im = np.ascontiguousarray(im)  # contiguous

im = np.float32(im) / 255.0    # 0 - 255 to 0.0 - 1.0

        由于YOLOv5系列模型的输入形状是正方形,当输入图片为长方形时,直接调用OpenCV的resize函数放缩图片会使图片失真,所以YOLOv5使用letterbox方式,将图片以保持原始图片长宽比例的方式放缩,然后用灰色color=(114, 114, 114)填充边界,如下图所示。

Letterbox放缩效果

        YOLOv5-seg的后处理跟YOLOv5几乎一样,需要对推理结果先做非极大值抑制。本文直接使用了YOLOv5自带的non_max_suppression()函数来实现非极大值抑制,并拆解出检测框(bboxes), 置信度(conf),类别(class_ids)和掩膜(masks)。关键代码如下:

from utils.general import non_max_suppression

pred = torch.tensor(pred)

pred = non_max_suppression(pred, nm=32)[0].numpy() #(n,38) tensor per image [xyxy, conf, cls, masks]

bboxes, confs, class_ids, masks= pred[:,:4], pred[:,4], pred[:,5], pred[:,6:]

yolov5seg_ov2022_sync_dgpu.py运行结果如下图所示:

源代码链接:https://gitee.com/ppov-nuc/yolov5_infer/blob/main/yolov5seg_ov2022_sync_dGPU.py

1.4 结论

        YOLOv5 的实时实例分割程序通过OpenVINO 部署在英特尔独立显卡上,可以获得高速度与高精度。读者还可以将程序通过OpenVINO异步API升级为异步推理程序或者用OpenVINO C++ API改写推理程序,这样可以获得更高的AI推理计算性能。

  • 1
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值