LabVIEW AI开发者福音:LabVIEW OpenVINO AI加速工具包,不来看看?

‍‍🏡博客主页: virobotics的CSDN博客:LabVIEW深度学习、人工智能博主
🎄所属专栏:『LabVIEW深度学习工具包』
🍻上期文章: 【YOLOv8】实战一:手把手教你使用YOLOv8实现实时目标检测)
📰如觉得博主文章写的不错或对你有所帮助的话,还望大家多多支持呀! 欢迎大家✌关注、👍点赞、✌收藏、👍订阅专栏

前言

之前给大家介绍了三个基于LabVIEW的AI工具包,包括【LabVIEW AI视觉工具包】,【LabVIEW ONNX工具包】,【LabVIEW TensorRT工具包】,其中【LabVIEW ONNX工具包】和【[LabVIEW TensorRT工具包】是仪酷LabVIEW图形化AI推理加速工具包中的两款,今天我们给大家介绍第三款【LabVIEW OpenVINO工具包


一、OpenVINO™2022简介

OpenVINO 是一个用于优化和部署深度学习模型的开源工具包。它为来自 TensorFlow、PyTorch 等流行框架的视觉、音频和语言模型提供了增强的深度学习性能。OpenVINOTMTM 工具套件2022.1版于2022年3月22日正式发布,根据官宣《OpenVINOTM 迎来迄今为止最重大更新,2022.1新特性抢先看》,OpenVINOTM 2022.1将是迄今为止最大变化的版本。相比于以前版本,新版本主要有以下特性:

  • 简化安装:精简了安装包及运行时库

  • 开箱即用:添加了包含Auto-Device Plugin, Performance Hints, MO参数简化等一系列帮助开发者迅速上手的功能

  • 动态输入支持:在CPU上实现了dynamic shape的支持

  • Paddle Paddle:官宣对Paddle Paddle的正式支持

  • API改进:从旧的Inference Engine API进化到新的OpenVINO Runtime API

OpenVINO在2022之前的版本是一整个安装包,包含Opencv、DL Streamer等工具,有点臃肿。而2022版本中,安装文件分为 Dev Tools 与 Runtime两部分,开发者可以自己选择安装的部分。

  • Dev Tools:负责开发和模型优化转换、模型库下载功能
  • Runtime:可通过exe方式安装程序,支持ONNX、IR、Paddle等模型读取与推理,默认支持python,可以C++

在这里插入图片描述


二、LabVIEW OpenVINO工具包简介

LabVIEW OpenVINO工具包是我们(VIRobotics团队)最近开发的一款AI推理加速工具包,整个工具包作为LabVIEW的插件,旨在帮助用户提高工作效率和推理速度。使用者可以在LabVIEW中直接使用OpenVINO实现在CPU、GPU(intel)、FPGA、VPU等硬件上的部署和推理。
在这里插入图片描述

工具包特点:

1.图形化编程:无需掌握文本编程基础即可完成机器视觉项目;
2.广泛的模型支持:支持将IR模型、onnx模型、paddle模型直接导入 OpenVINO,无需将模型转化为另一种框架;
3.多种高效加速推理接口:支持使用英特尔CPU、集成显卡和独立显卡进行高性能推理;
4. 简单安装与配置:无需额外下载openvino推理驱动,安装工具包过程openvino驱动会自动安装;

yolov5s在各工具包下的性能测评对比:

在这里插入图片描述
注:测试电脑cpu为i7-11800H,Intel集显为i7-11650G7,独显为笔记本RTX 3070(包括预处理和后处理)


三、LabVIEW OpenVINO工具包VI简介

已经安装好的OpenVINO工具包位于程序框图-函数选板-Addons-VIRobotics-OpenVINO内容包括:获取可用的设备、OpenVINO的版本及不同格式模型调用推理等功能。该工具包的具体安装方式可查看博客:LabVIEW使用OpenVINO加速必备工具包下载与安装教程

LabVIEW OpenVINO工具包具体VI简介如下:

3.1 基本函数

  • getavailbleDevice.vi:用于列出系统上可用的设备类型,如CPU、GPU、FPGA、VPU等。这可以帮助用户确定哪些设备可以用于部署深度学习模型
  • getVersion.vi:获取安装的OpenVINO工具包的版本信息,目前版本为2022.3

3.2 InferenceEngine(静态输入模型加载推理类)

在这里插入图片描述

  • Create_session_from_IR.vi:用于创建会话对象,加载IR模型并指定推理加速引擎(CPU、GPU等)
  • Create_session_from_ONNX.vi:用于创建会话对象,加载onnx模型并指定推理加速引擎(CPU、GPU等)
  • input_shape.vi:获取模型的输入张量的形状
  • output_shape.vi:获取模型的输出张量的形状
  • Run.vi:将数据传递给模型实现推理
  • Get_result.vi:用于获取Run操作返回的模型输出数据
  • Release…vi:用于释放会话对象和相关资源,以便在不需要时释放系统资源

3.3 OV(动态输入模型加载推理类)

在这里插入图片描述

  • Load_IR.vi:用于创建会话对象,加载IR模型并指定推理加速引擎(CPU、GPU等)
  • Load_ONNX.vi:用于创建会话对象,加载onnx模型并指定推理加速引擎(CPU、GPU等)
  • Load_Paddle.vi:用于创建会话对象,加载paddle模型并指定推理加速引擎(CPU、GPU等)
  • OV_Input_shape.vi:获取模型的输入张量的形状
  • OV_Output_Shape.vi:获取模型的输出张量的形状
  • OV_Run.vi:将数据传递给模型实现推理
  • OV_Run_Infer.vi:推理
  • OV_Get_result.vi:用于获取Run操作返回的模型输出数据
  • OV_SetInput.vi:将张量设置为推断请求的输入
  • OV_Release…vi:用于释放会话对象和相关资源,以便在不需要时释放系统资源
  • Compilemodel.vi:编译模型
  • OV_reshape.vi:更新输入形状并通过所有中间层将它们向下传播到模型的输出

总结

以上就是今天要给大家分享的内容。如果有问题可以在评论区里讨论。觉得内容不错,可点赞收藏哦,如您想要探讨更多关于LabVIEW与人工智能技术,欢迎加入我们的技术交流群。进群请备注CSDN

如果文章对你有帮助,欢迎✌关注、👍点赞、✌收藏、👍订阅专栏

推荐阅读

LabVIEW图形化的AI视觉开发平台(非NI Vision),大幅降低人工智能开发门槛
LabVIEW图形化的AI视觉开发平台(非NI Vision)VI简介
LabVIEW AI视觉工具包OpenCV Mat基本用法和属性
手把手教你使用LabVIEW人工智能视觉工具包快速实现图像读取与采集
LabVIEW开放神经网络交互工具包(ONNX)下载与超详细安装教程
LabVIEW图形化TensoRT工具包的安装下载分享

👇技术交流 · 一起学习 · 咨询分享,请联系👇

  • 2
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
我们很容易掌握AI深度学习。让机器能够模仿人脑的思考方式,从而摆脱原来的固有数据库比较的限制。深度学习的发展课件:链接:https://pan.baidu.com/s/1Ck4GN9N0OCzQgH0MxZOqeQ 提取码:b74k随着机器学习深度学习的发展,很多人眼很难去直接量化的特征, 深度学习可以搞定, 这就是深度学习带给我们的优点和前所未有的吸引力。很多特征我们通过传统算法无法量化,或者说很难去做到的, 深度学习可以搞定。特别是在图像分类, 目标检测这些问题上取得了显著的提升。下图是近几年来深度学习在图像分类问题上取得的成绩。●   机器视觉缺陷检测的痛点●   仍存在下面主要的问题和难点 1) 受环境、光照、生产工艺和噪声等多重因素影响,检测系统的信噪比一般较低,微弱信号难以检出或不能与噪声有效区分。如何构建稳定、可靠、鲁棒的检测系统,以适应光照变化、噪声以及其他外界不良环境的干扰,是要解决的问题之一。 2) 由于检测对象多样、表面缺陷种类繁多、形态多样、复杂背景,对于众多缺陷类型产生的机理以及其外在表现形式之间的关系尚不明确,致使对缺陷的描述不充分,缺陷的特征提取有效性不高,缺陷目标分割困难;同时,很难找到“标准”图像作为参照,这给缺陷的检测和分类带来困难,造成识别率尚有待提高。 3) 机器视觉表面缺陷检测,特别是在线检测,其特点是数据量庞大、冗余信息多、特征空间维度高,同时考虑到真正的机器视觉面对的对象和问题的多样性,从海量数据中提取有限缺陷信息的算法能力不足,实时性不高。 4) 与机器视觉表面检测密切相关的人工智能理论虽然得到了很大的发展,但如何模拟人类大脑的信息处理功能去构建智能机器视觉系统还需要理论上的进一步研究,如何更好的基于生物视觉认识、指导机器视觉得检测也是研究人员的难点之一。 5) 从机器视觉表面检测的准确性方面来看,尽管一系列优秀的算法不断出现,但在实际应用中准确率仍然与满足实际应用的需求尚有一定差距,如何解决准确识别与模糊特征之间、实时性与准确性之间的矛盾仍然是目前的难点。 传统算法在某些特定的应用中已经取得了较好的效果,但仍然存在许多不足。例如:图像预处理步骤繁多且具有强烈的针对性,鲁棒性差;多种算法计算量惊人且无法精确的检测缺陷的大小和形状。而深度学习可以直接通过学习数据更新参数,避免了人工设计复杂的算法流程,并且有着极高的鲁棒性和精度。
LabVIEW提供了多个工具包,其中包括【LabVIEW AI视觉工具包】、【LabVIEW ONNX工具包】、【LabVIEW TensorRT工具包】和【LabVIEW OpenVINO工具包】。【LabVIEW AI视觉工具包】是用于图像和视频处理的工具包,可以进行特征提取、目标识别等任务。【LabVIEW ONNX工具包】和【LabVIEW TensorRT工具包】是仪酷LabVIEW图形化AI推理加速工具包中的两款,用于将AI模型部署到LabVIEW中进行高效的推理加速。而【LabVIEW OpenVINO工具包】是用于与Intel OpenVINO™框架集成的工具包,可以实现智能推理和优化。总之,LabVIEW提供了多个功能强大的工具包,可以满足不同的AI应用需求。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [LabVIEW AI开发者福音LabVIEW OpenVINO AI加速工具包不来看看?](https://blog.csdn.net/virobotics/article/details/130220080)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [labview 的小波包变换工具包使用(三)(范例分析)](https://blog.csdn.net/caijige/article/details/124569721)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

virobotics

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值