OpenVINO(1)：概述

最新推荐文章于 2023-09-20 13:40:10 发布

翔底

最新推荐文章于 2023-09-20 13:40:10 发布

阅读量1.1k

点赞数 1

分类专栏： OpenVINO

本文链接：https://blog.csdn.net/rangfei/article/details/109853511

版权

5 篇文章 3 订阅

订阅专栏

1. 背景

当下，人工智能（AI）进入到快速发展阶段，而AI技术落地应用最广的计算机视觉领域也随之日益成熟，行业对于AI人才的需求呈现出了爆炸式增长。除此之外，如何将AI研发置于实际应用场景之中，更好地对AI算法进行优化，加速AI应用落地，也是行业对AI开发者提出的新要求。

为帮助开发者加速深度学习模型推理，进一步推动计算机视觉算法在实际问题中的应用，促进产业界与学术界的深度融合，英特尔提供的OpenVINO工具包能有效地缩短开发周期，提升开发效率。

OpenVINO是英特尔基于自身现有的硬件平台开发的一种可以加快高性能计算机视觉和深度学习视觉应用开发速度工具套件，支持各种英特尔平台的硬件加速器上进行深度学习，并且允许直接异构执行。支持在Windows与Linux系统，Python/C++语言。

OpenVINO工具包(ToolKit)主要包括两个核心组件，模型优化器(Model Optimizer)和推断引擎(Inference Engine)。
在这里插入图片描述

模型优化器(Model Optimizer)
模型优化器(Model Optimizer)将给定的模型转化为标准的 Intermediate Representation (IR) ，并对模型优化。
模型优化器支持的深度学习框架：

推理引擎(Inference Engine)
推理引擎(Inference Engine)支持硬件指令集层面的深度学习模型加速运行，同时对传统的OpenCV图像处理库也进行了指令集优化，有显著的性能与速度提升。
支持的硬件设备：

具体组件包

深度学习模型优化器 - 一种跨平台的命令行工具，用于导入模型并使用推理引擎为最佳执行做好准备。模型优化器导入，转换和优化模型，这些模型在流行的框架中训练，例如Caffe *，TensorFlow *，MXNet *，Kaldi *和ONNX *。
深度学习推理引擎 - 一种统一的API，允许对许多硬件类型进行高性能推断，包括英特尔®CPU，英特尔®集成显卡，英特尔®Movidius™神经计算棒，英特尔®神经计算棒2和采用英特尔®的英特尔®视觉加速器设计Movidius™VPU
演示和示例 - 一组简单的控制台应用程序，演示如何在应用程序中使用推理引擎
工具 - 一组简单的控制台工具，用于校准和测量模型的精度
预先训练的模型 - 一套用于学习和演示目的的预训练模型或开发深度学习软件

windows

macOS * 10.14

linux（Ubuntu 16.04.x长期支持（LTS),64位：支持的最低内核为4.14；CentOS 7.6,64位； Yocto Project Poky Jethro v2.0.3,64位（仅限目标并需要修改）

关注