在FFmpeg中使用OpenVINO推理引擎

在2020年7月初，我把对OpenVINO（Open Visual Inference & Neural Network Optimization）推理引擎的调用加到了FFmpeg中，也就意味着现在FFmpeg深度学习模块的后端有三个了，分别是TensorFlow、OpenVINO和Native，如下图所示。之前已经对TensorFlow和Native后端有过一些介绍，本文对如何使用OpenVINO后端做个简单介绍。

• 编译和安装OpenVINO

OpenVINO是Intel发布的一套深度学习框架，支持多种模型文件格式，包括Tensorflow、 Caffe、ONNX、MXNet、Kaldi和Torch（通过ONNX中转）等，也支持各种Intel硬件，包括CPU、GPU、FPGA、Movidius神经计算棒等。由于FFmpeg要求调用的库必须提供C API，而刚好OpenVINO在2020年发布版本中增加了这样的接口。再加上OpenVINO后端相对于TensorFlow后端可以提供更多的模型格式支持，而且可以更多更好的支持各种底层硬件。所以，FFmpeg社区接受了OpenVINO中的推理引擎作为一个新的深度学习后端。

编译OpenVINO推理引擎的具体操作如下所示，我的所有操作都在Ubuntu 18.04上进行。也可以参考官方文档https://github.com/openvinotoolkit/openvino/blob/master/build-instruction.md

OpenVINO使用CMake的方法，要求cmake版本是3.11或以上，
而Ubuntu 18.04默认cmake版本是3.10.2，所以，需要先升级cmake
$ wget https://github.com/Kitware/CMake/releases/download/v3.15.3/cmake-3.15.3.tar.gz
$ tar zxvf cmake-3.15.3.tar.gz 
$ cd cmake-3.15.3/
$ ./bootstrap
$ make
$ sudo make install
$ cmake --version
cmake version 3.15.3

然后下载OpenVINO源代码
$ git clone https://github.com/openvinotoolkit/openvino.git

由于openvino还用到了第三方库作为git的子模块，所以，还需要将这些子模块的代码也下载下来
$ cd openvino/
$ git submodule update --init --recursive

安装编译需要的依赖
$ ./install_dependencies.sh 

准备编译需要的目录
$ mkdir build
$ cd build/

由于OpenVINO功能广泛，默认选项会打开所有的支持，
这里只启用CPU硬件（