OpenVINO
文章平均质量分 90
介绍使用OpenVINO部署深度学习模型。
椒颜皮皮虾྅
英特尔边缘计算创新大使 百度飞桨开发者技术专家(PPDE) OpenVINO C# API NuGet Package 作者 主要致力于模型部署相关方面的研究,OpenVINO、TensorRT模型部署套件在C#端使用。
展开
-
【OpenVINO™】在 Windows 上使用 OpenVINO™ C# API 部署 Yolov8-obb 实现任意方向的目标检测
YOLOv8 OBB 模型是YOLOv8系列模型最新推出的任意方向的目标检测模型,可以检测任意方向的对象,大大提高了物体检测的精度。同时官方发布的模型已经支持 OpenVINO™ 部署工具加速模型推理,因此在该项目中,我们将结合之前开发的 OpenVINO™ C# API 部署YOLOv8 OBB 模型实现旋转物体对象检测。原创 2024-01-31 12:46:25 · 1592 阅读 · 0 评论 -
【OpenVINO 】在 MacOS 上编译 OpenVINO C++ 项目
英特尔公司发行的模型部署工具OpenVINO™模型部署套件,可以实现在不同系统环境下运行,且发布的OpenVINO™ 2023最新版目前已经支持MacOS系统并同时支持在苹果M系列芯片上部署模型。在该项目中,我们将向大家展示如何在MacOS系统、M2芯片的Macbook Air电脑上,展示使用OpenVINO™ C++ API 部署深度学习模型。原创 2024-01-08 11:52:20 · 1451 阅读 · 0 评论 -
【技术分享】当 OpenVINO 不支持你所部署模型算子时,你该如何做?
通过最新的OpenVINO™更新信息,我们可以看出,OpenVINO™其实是在不断更新迭代,并且适配更多新的模型。其主要原因是不少新出现的模型可能会带来更多新的算子,而OpenVINO™可能会在后续的版本更新中才会适配。但如果我们当前阶段需要使用OpenVINO™部署该深度学习模型,那我们该怎么做?原创 2023-12-15 16:59:58 · 996 阅读 · 0 评论 -
【OpenVINO】使用OpenVINO实现 RT-DETR 模型 INT8量化推理加速
我们基于OpenVINO下的模型优化工具NNCF,实现了RT-DETR模型的INT8量化,并且在损失极少的精度代价下,实现了模型推理速度提升3~4倍左右,模型大小将为原来的1/4,即提升了模型的推理速度,又降低了模型推理占用内存,这对在边缘设备部署具有十分重要的意义。原创 2023-12-13 14:13:02 · 1176 阅读 · 0 评论 -
【OpenVINO】基于 OpenVINO C# API 部署 RT-DETR 模型
在实际工业应用时,有时我们需要在C#环境下使用该模型应用到工业检测中,因此在本文中,我们将向大家展示使用OpenVINO Csharp API 部署RT-DETR模型,并对比不同编程平台下模型部署的速度。原创 2023-11-13 13:39:13 · 652 阅读 · 0 评论 -
【OpenVINO】基于 OpenVINO Python API 部署 RT-DETR 模型
在本项目中,我们介绍了OpenVINO Python API 部署自带后处理的RT-DETR模型的案例,并结合该模型的处理方式封装完整的代码案例,实现了在 Intel 平台使用OpenVINO 加速深度学习模型,有助于大家以后落地RT-DETR模型在工业上的应用。为了更好地大家落地RT-DETR模型,我们不仅开发了在Python、C++、C# 三个平台上的案例代码,还结合大家的模型部署习惯对该模型进行了裁剪,实现了去除掉后处理的单输入模型的部署案例。原创 2023-10-23 16:14:01 · 564 阅读 · 0 评论 -
【OpenVINO】行人摔倒检测 — 基于 OpenVINO C# API 部署PP-Human-下篇
项目中采用OpenVINO部署行人检测算法、关键点检测算法以及摔倒检测算法实现对行人摔倒自动识别算法,并在AIxBoard 开发板上使用 OpenVINO C# API 结合应用场景部署多模型。原创 2023-10-22 16:31:44 · 581 阅读 · 4 评论 -
【OpenVINO】行人摔倒检测 — 基于 OpenVINO C# API 部署PP-Human-上篇
项目中采用OpenVINO部署行人检测算法、关键点检测算法以及摔倒检测算法实现对行人摔倒自动识别算法,并在AIxBoard 开发板上使用 OpenVINO C# API 结合应用场景部署多模型。原创 2023-10-18 11:12:41 · 644 阅读 · 0 评论 -
【OpenVINO】OpenVINO C# API 常用 API 详解与演示
在本文中我们基于模型推理流程,演示了OpenVINO C# API使用方法,并和OpenVINO C++API进行了对比,展示了OpenVINO C# API与C++API在使用的区别,这也对使用过C++ API的开发者十分友好,上手会十分容易。在本文中我们只展示了基础的模型推理流程代码,也对各个API进行了测试,针对其他比较高级的API方法,我们后续会继续进行测试其他API方法,向各位开发者展示其用法。原创 2023-10-16 10:38:48 · 617 阅读 · 8 评论 -
【OpenVINO】在英特尔® 开发者套件爱克斯开发板使用OpenVINO C# API 部署Yolov8模型
英特尔开发套件 AIxBoard(爱克斯板)是英特尔开发套件官方序列中的一员,专为入门级人工智能应用和边缘智能设备而设计。爱克斯板能完美胜人工智能学习、开发、实训、应用等不同应用场景。该套件预装了英特尔OpenVINO™工具套件、模型仓库和演示案例,便于您轻松快捷地开始应用开发。套件主要接口与Jetson Nano载板兼容,GPIO与树莓派兼容,能够最大限度地复用成熟的生态资源。这使得套件能够作为边缘计算引擎,为人工智能产品验证和开发提供强大支持;同时,也可以作为域控核心,为机器人产品开发提供技术支撑。原创 2023-08-19 14:29:34 · 690 阅读 · 0 评论 -
【OpenVINO】 基于C#和OpenVINO2023.0部署Yolov8全系列模型
英特尔发行版 OpenVINO™ 工具套件基于oneAPI 而开发,可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件,适用于从边缘到云的各种英特尔平台上,帮助用户更快地将更准确的真实世界结果部署到生产系统中。通过简化的开发工作流程, OpenVINO™ 可赋能开发者在现实世界中部署高性能应用程序和算法。原创 2023-08-10 19:57:14 · 1677 阅读 · 3 评论 -
【爱克斯开发板试用】 爱克斯开发板使用OpenVINO C# API
C#是由C和C++衍生出来的一种安全的、稳定的、简单的、优雅的面向对象编程语言。然而 OpenVINO™未提供C#语言接口,这对在C#中使用 OpenVINO™带来了很多麻烦,在之前的工作中,我们推出了OpenVinoSharp旨在推动 OpenVINO™在C#领域的应用,目前已经成功在Window平台实现使用。在本文中,我们将介绍如何在 AIxBoard开发板上基于Linux系统实现OpenVinoSharp。原创 2023-08-09 13:41:58 · 172 阅读 · 0 评论 -
【OpenVINO】基于C#和OpenVINO部署PaddleOCR模型
基于OpenVINO模型推理库,在C#语言下,调用封装的OpenVINO动态链接库,部署推理PaddleOCR中的文字识别模型;实现了在C#平台使用PaddleOCR文字识别模型识别文字。OpenVinoSharp源码在GitHub和Gitee上已开源,可以直接通过Git获取所有源码.原创 2023-05-03 14:25:53 · 1631 阅读 · 3 评论 -
【Yolov8】基于C#和OpenVINO部署Yolov8全系列模型
该项目主要基于OpenVINO™模型部署套件,在C#平台部署Yolov8模型,包括Yolov8系列的对象检测、图像分割、姿态识别和图像分类模型,实现C#平台推理加速Yolov8模型。原创 2023-04-19 12:32:29 · 4351 阅读 · 42 评论 -
【OpenVINO】OpenVINO C# API2.0 更新,支持NuGet包
OpenVINO™是一个用于优化和部署深度学习模型的开源工具包,是英特尔基于自身现有的硬件平台开发的一种可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件,用于快速开发应用程序和解决方案,以解决各种任务(包括人类视觉模拟、自动语音识别、自然语言处理和推荐系统等)。官方发行的OpenVINO™未提供C#编程语言接口,因此在使用时无法实现在C#中利用OpenVINO™进行模型部署。原创 2023-02-09 23:41:04 · 585 阅读 · 0 评论 -
【OpenVINO】OpenVINO 2022.1更新2022.3教程
工具套件2022.1版于2022年3月22日正式发布,与以往版本相比发生了重大革新,提供预处理API函数、ONNX前端API、AUTO 设备插件,并且支持直接读入飞桨模型,在推理中中支持动态改变模型的形状,这极大地推动了不同网络的应用落地。由于2022.3版同属2022系列,除了增加对英特尔最新 CPU 和离散 GPU 的支持,其他API函数没有发生变化,因此我们可以直接对其进行更新,这样不会影响我们的以前的项目使用。按照自己的系统下载自己需要的文件。根据OpenVINOTM。网站,下载最新版的文件。原创 2023-01-27 18:32:07 · 1304 阅读 · 5 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—4.Python实现
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题,该项目针对部署中存在的问题,对PP-YOLOE模型进行裁剪,在不顺时模型精度基础上,打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:51:16 · 967 阅读 · 2 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—3.C++部署实现
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题,该项目针对部署中存在的问题,对PP-YOLOE模型进行裁剪,在不顺时模型精度基础上,打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:49:37 · 1486 阅读 · 4 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—2.模型下载与转换
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题,该项目针对部署中存在的问题,对PP-YOLOE模型进行裁剪,在不顺时模型精度基础上,打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:47:09 · 1240 阅读 · 2 评论 -
基于OpenVINO部署PaddlePadle-YOLOE模型—1.项目介绍
目前对于OpenVINOTM直接部署PP-YOLOE还存在一些问题,该项目针对部署中存在的问题,对PP-YOLOE模型进行裁剪,在不顺时模型精度基础上,打通了OpenVINOTM直接部署PP-YOLOE之路。原创 2022-10-28 17:40:22 · 874 阅读 · 0 评论 -
【OpenVINO】OpenVINO 2022.1更新2022.2教程
工具套件2022.1版于2022年3月22日正式发布,与以往版本相比发生了重大革新,提供预处理API函数、ONNX前端API、AUTO 设备插件,并且支持直接读入飞桨模型,在推理中中支持动态改变模型的形状,这极大地推动了不同网络的应用落地。由于2022.2版同属2022系列,除了增加对英特尔最新 CPU 和离散 GPU 的支持,其他API函数没有发生变化,因此我们可以直接对其进行更新,这样不会影响我们的以前的项目使用。按照自己的系统下载自己需要的文件。网站,下载最新版的Cmake后的文件。原创 2022-09-24 10:36:46 · 1306 阅读 · 0 评论 -
【OpenVINO】OpenVINO 2022.1 安装教程(Windows)
OpenVINO™是英特尔基于自身现有的硬件平台开发的一种可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件,用于快速开发应用程序和解决方案,以解决各种任务(包括人类视觉模拟、自动语音识别、自然语言处理和推荐系统等)。该工具套件基于最新一代的人工神经网络,包括卷积神经网络 (CNN)、递归网络和基于注意力的网络,可扩展跨英特尔® 硬件的计算机视觉和非视觉工作负载,从而最大限度地提高性能。它通过从边缘到云部署的高性能、人工智能和深度学习推理来为应用程序加速,并且允许直接异构执行。原创 2022-09-19 23:04:17 · 10440 阅读 · 6 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。该项目主要通过调用dll文件方式实现。原创 2022-09-15 10:50:06 · 588 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-6.C#实现OpenVINOTM方法的调用
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。......原创 2022-09-15 10:34:42 · 903 阅读 · 7 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-5.C#构建Core类
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。......原创 2022-09-04 17:11:24 · 576 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-4.创建OpenVINO 方法C++动态链接库-2
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。......原创 2022-08-10 10:05:58 · 586 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-4.创建OpenVINOTM 方法C++动态链接库-1
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。...原创 2022-08-06 15:54:44 · 1124 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-3.模型介绍
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。...原创 2022-08-06 15:51:43 · 823 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-2.软件安装
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。...原创 2022-08-03 20:10:00 · 639 阅读 · 0 评论 -
【OpenVINO】C#调用OpenVINO部署Al模型项目开发-1.项目概述
C#调用OpenVINOTM部署Al模型项目开发项目,简称OpenVinoSharp,这是一个示例项目,该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件,进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口,并在C#语言下实现应用。......原创 2022-08-03 19:57:23 · 519 阅读 · 0 评论