openvino系列 0. 工作流介绍以及运行

openvino系列 0. 工作流介绍以及代码运行

环境描述：

• 本案例运行环境：Win10
• IDE：VSCode
• openvino版本：2022.1
• 代码链接

---

---

0 openvino 如何工作

openvino 工作流程主要包括四个主要步骤：

1. 训练（Train）：使用代码训练模型；
2. 模型优化器（Model Optimizer）：模型被送到模型优化器，其目标是优化模型并生成模型的中间表示（两个文件：.xml+.bin）。这些模型通过量化、冻结、融合等技术进行了优化。在此步骤中，根据所选框架配置预训练模型，然后使用简单的单行命令进行转换。用户可以从OpenVINO Model Zoo中的一系列预训练模型中进行选择，其中包含用于各种目的的模型，从对象检测到文本识别再到人体姿势估计等等；
3. 推理引擎（Inference Engine）：中间表示被馈送到推理引擎。推理引擎的工作是根据用于训练模型的框架以及使用的硬件（也称为环境）检查模型兼容性。openvino 支持的框架包括 TensorFlow、TensorFlow Lite、Caffe、MXNet、ONNX（PyTorch、Apple ML）和 Kaldi；
4. 部署（Deployment）：将应用程序部署到设备上。对于企业级解决方案，Viso Suite 提供完整的设备管理，以实现大规模自动化和强大的部署。

1 关于运行环境以及依赖安装

我所使用的运行环境是Win10，一台普通的10代i5笔记本电脑。关于openvino的安装如下：

1.1 OpenVINO RunTime 的安装

注意，如果我们已经安装过OpenVINO™ Development Tools，那么我们就已经安装了OpenVINO™ RunTime。如果还没有，可以参考如下指令。网页链接

这边我是在Win10环境下进行的安装，指令如下：

python -m venv openvino_env
openvino_env\Scripts\activate
python -m pip install --upgrade pip
pip install openvino

1.2 OpenVINO Development Tools 的安装

网页链接

这边我是在Win10环境下进行的安装，指令如下：

python -m venv openvino_env
openvino_env\Scripts\activate
python -m pip install --upgrade pip
pip install openvino-dev[tensorflow2,onnx,pytorch]==2022.1.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

1.3 跑代码之前需要安装的依赖

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

requirements.txt在上一级文件夹中。

添加jupyter notebook添加名为openvino_env的kernal：

python -m ipykernel install --user --name openvino_env

1.4 代码的运行

我们可以在VSCode中打开1-openvino-basic.ipynb，也可以在terminal中打开jupyter notebook。需要注意的是，打开后，我们需要选择kernal，比如在VSCode，Select Kernel按钮在右上方，点击后选择openvino_env。