4、安装 OpenVINO

1、视频

https://www.bilibili.com/video/BV1EZ4y1u7Sd/

2、百度网盘下载

可以在百度网盘下载需要用到的文件。

2、安装相关软件

2.1 安装 CMake

下载之后默认安装。

2.2 安装 Microsoft Visual Studio 2017

操作选中 “.NET 桌面开发”、“使用 C++ 的桌面开发”、“通用 Windows 平台开发”，然后进行安装，安装完成后重启。务必安装在 C 盘，因为 OpenVINO 默认 Visual Studio 在 C 盘。

2.3 安装 OpenVINO

2.3.1 OpenVINO 简介

OpenVINO 的全称是：Open Visual Inference & Neural Network Optimization
OpenVINO 工具套件主要包括用于优化神经网络模型的工具 Model Optimizer 和用于加速推理计算的软件包 Inference Engine。

相关概念：

• Model Optimizer：负责硬件无关的模型架构优化。
• Inference Engine：负责硬件相关的指令级别的优化。
• *.xml: 描述神经网络的结构
• *.bin: 存储模型权重参数
  

2.3.2 进行安装

操作下载之后全部默认安装。

3、设置环境变量

设置环境变量，是为了让应用程序（*.exe）能够找到 hddl 库、Inference Engine 库和 Open CV 库。

操作添加系统变量：

• HDDL_INSTALL_DIR：C:\Program Files (x86)\IntelSWTools\openvino_2019.3.334\inference_engine\external\hddl
• IE_DIR：C:\Program Files (x86)\IntelSWTools\openvino_2019.3.334\deployment_tools\inference_engine
• OPENCV_DIR：C:\Program Files (x86)\IntelSWTools\openvino_2019.3.334\opencv

操作然后将以下 5 条路径添加到 Path 变量中：

• %IE_DIR%\bin\intel64\Release
• %IE_DIR%\bin\intel64\Debug
• %OPENCV_DIR%\lib
• %OPENCV_DIR%\bin
• %HDDL_INSTALL_DIR%\bin

4、运行演示程序

运行演示程序可以验证 OpenVINO 工具套件是否安装成功，下面的例子中选择一个运行即可。

输入命令 cd C:\Program Files (x86)\IntelSWTools\openvino_2019.3.334\deployment_tools\demo，首先进入 demo 目录。因为下面的操作（4.1、4.2）都在该目录下进行。

输入命令 pip install networkx==2.3，必须指定 networkx 为 2.3 版本，如果高于 2.3，运行 demo_benchmark_app.bat 会出现 AttributeError: ‘Graph’ object has no attribute ‘node’ 错误。

4.1 演示程序1：demo_benchmark_app.bat

这个程序可以测试出 AI 加速硬件（这里我们指定的是 CPU）的运行时间（Duration）、延时（Latency）和吞吐量（Throughput）。整个程序的工作流程为：下载