一、下载OpenVINO工具包
1、选择下载版本和下载方式
- 如果只是进行推理计算,那么可以选择OpenVINO Base Package,如果还有生成式计算以及其他的需求,那么就选择功能更全的OpenVINO with GenAI。
- 根据代码需求选择合适的OpenVINO版本,在2024中部分旧版本的推理接口会被删除。
- 如果没有特殊需求,那么就选择下载归档文件进行安装。
- 根据系统架构及ubuntu版本选择合适的归档文件下载
二、安装OpenVINO工具包
1、安装环境依赖
- 解压下载的openvino工具包归档文件。
- 创建 /opt/intel文件夹并将解压后的文件移动到该文件夹下。
- 在解压后的文件夹中打开install_dependencies文件夹。
- 在2024版本中会提供一个脚本文件install_openvino_dependencies.sh,而在2023版本中除此之外还会提供一个关于NPU的脚本文件install_openvino_intel_npu_driver.sh。
- 分别执行脚本文件,安装所需的依赖,如果不使用NPU可以不执行其驱动脚本。
sudo -E ./install_openvino_dependencies.sh
2、添加环境变量
-
依赖安装完成后,在 ~/.bashrc文件中添加如下环境变量
source /opt/intel/openvino_toolkit_2023.3.0(解压后的文件名)/setupvars.sh
,然后执行source ~/.bashrc
;也可以在每次打开终端之后执行该指令,但是这样只在该终端中会生效,再次打开终端需要再次执行指令。 -
执行完成后会在终端看到openvino环境初始化成功。
-
当然也可以在 /opt/intel中安装多个版本的openvino,只需要切换不同的环境变量就可以了。
至此就可以正常调用openvino的接口进行推理计算!
小结
上述安装步骤在Intel新的Meteor Lake平台(Ultra系列)及ubuntu22.04系统上测试可以正常使用CPU设备进行推理,对于新平台的iGPU以及NPU设备,需要另外安装驱动才能正确识别并使用,这个会在之后的博文中介绍,如有其他问题欢迎留言交流。