Ubuntu系统安装OpenVINO™工具包

官网链接 OpenVINO™ toolkit: An open source AI toolkit that makes it easier to write once, deploy anywhere.

一、下载OpenVINO工具包

1、选择下载版本和下载方式

1. 如果只是进行推理计算，那么可以选择OpenVINO Base Package，如果还有生成式计算以及其他的需求，那么就选择功能更全的OpenVINO with GenAI。
2. 根据代码需求选择合适的OpenVINO版本，在2024中部分旧版本的推理接口会被删除。
3. 如果没有特殊需求，那么就选择下载归档文件进行安装。
4. 根据系统架构及ubuntu版本选择合适的归档文件下载

二、安装OpenVINO工具包

参考官方安装链接

1、安装环境依赖

1. 解压下载的openvino工具包归档文件。
2. 创建 /opt/intel文件夹并将解压后的文件移动到该文件夹下。
3. 在解压后的文件夹中打开install_dependencies文件夹。
4. 在2024版本中会提供一个脚本文件install_openvino_dependencies.sh，而在2023版本中除此之外还会提供一个关于NPU的脚本文件install_openvino_intel_npu_driver.sh。
5. 分别执行脚本文件，安装所需的依赖，如果不使用NPU可以不执行其驱动脚本。sudo -E ./install_openvino_dependencies.sh

2、添加环境变量

1. 依赖安装完成后，在 ~/.bashrc文件中添加如下环境变量source /opt/intel/openvino_toolkit_2023.3.0(解压后的文件名)/setupvars.sh，然后执行source ~/.bashrc；也可以在每次打开终端之后执行该指令，但是这样只在该终端中会生效，再次打开终端需要再次执行指令。

2. 执行完成后会在终端看到openvino环境初始化成功。

3. 当然也可以在 /opt/intel中安装多个版本的openvino，只需要切换不同的环境变量就可以了。

   至此就可以正常调用openvino的接口进行推理计算！

小结

上述安装步骤在Intel新的Meteor Lake平台(Ultra系列)及ubuntu22.04系统上测试可以正常使用CPU设备进行推理，对于新平台的iGPU以及NPU设备，需要另外安装驱动才能正确识别并使用，这个会在之后的博文中介绍，如有其他问题欢迎留言交流。