Openvino Mac版部署踩坑记录

前几天在Ubuntu上使用了openvino觉得速度还行,想着在自己的Mac上也装一个,来实现在家也能为社会主义做贡献的梦想(手动狗头),然后坑就来了,历经各种试错,终于找到解决方案,分享给后来之人。

首先奉上Intel Openvino的官方安装教程链接:https://docs.openvinotoolkit.org/2021.2/openvino_docs_install_guides_installing_openvino_macos.html

教程一定要从头到尾看,看一遍再装,坑就在细节里:

首先,硬件环境一定要符合要求,目前官方提供的完整安装包只支持Intel芯片,也就是X86架构,今年5月份开始计划逐步支持ARM架构,但还没有稳定的工具包,着急尝鲜的同学可以上github下载ARM架构Plugin,自己编译库,附上Github Pulgin下载链接

https://github.com/openvinotoolkit/openvino_contrib

接着就是软件环境,官方文档要求软件环境如下:

  • CMake 3.10 or higher
  • Python 3.6 - 3.7
  • Apple Xcode* Command Line Tools
  • (Optional) Apple Xcode* IDE (not required for OpenVINO, but useful for development)

 特别注意python环境目前只能是3.6-3.7版本,别装3.8,系统自带的2也是不行的,不然库文件对不上会一直报错。其他安装都没啥问题,要是缺了,系统会提醒你啥没装,安装就好。我就说一下python环境的配置,这一步没搞好,后面问题太多了。

python环境安装可以采用直接官网下载或者anaconda安装两种方式,都没有问题,我是用了官网下载python的方法,链接如下:

https://www.python.org/downloads/macos/

推荐下载3.7,安装完成后记着配置环境变量,方法如下:

vim ~/.bash_profile

输入‘i’,进入编辑模式,在文件最后一行加入一下环境变量,然后’esc‘,输入’:wq‘,保存即可。

alias python=/usr/local/bin/python3.7

最后

source ~/.bash_profile.sh

 激活环境变量,在终端窗口输入python,如果版本为3.7,说明安装成功了。

最后,安装openvino,前面的环境要求配置好,这一步没什么难度,官网下载openvino,选择root权限或者admin权限安装,一直下一步就好,最后一步安装完成,会跳转到网页环境变量页面,标题设置如下:

Set the Environment Variables

You need to update several environment variables before you can compile and run OpenVINO™ applications. Open the macOS Terminal* or a command-line interface shell you prefer and run the following script to temporarily set your environment variables:

 我们直接把它写到环境变量里,不需要每次都配置,首先:

vi ~/.bash_profile

接着添加环境变量命令如下 ,如果是按照root权限或者amin权限,路径应该是一样的,大家看好自己的路径,不确定的直接“command+shift+g”进入‘/opt’看看自己的路径,拷到命令行,老套路保存一下,source激活一下。

source /opt/intel/openvino_2021/bin/setupvars.sh

打开新的终端提示如下表示么得问题了,后续的demo环境依赖看自己需求按着教程作就好。

[setupvars.sh] OpenVINO environment initialized

我的踩坑 就在这最后一步,其实我在Ubuntu也遇到了这个问题,当时稀里糊涂能用,就没再管,但最终在mac上安装还是遇到了,困扰了我两个周末,问题如下: 

[setupvars.sh] WARNING: Can not find OpenVINO Python binaries by path /Users/python [setupvars.sh] WARNING: OpenVINO Python environment does not set properly [setupvars.sh] OpenVINO environment initialized

重点看第一条,python binaries找不到,这个就是提示python环境没设置好,就算显示初始化了,最后也调用不了的,想要解决这个问题就得看setupvars.sh是怎么配置的,打开openvino的bin目录下的setupvars.sh,根据文末的echo设置找到问题出在 “${INTEL_OPENVINO_DIR}/python",取到的路径不是我们想要的路径,回看22-23行代码配置如下${INTEL_OPENVINO_DIR}

export INTEL_OPENVINO_DIR="$INSTALLDIR"
export INTEL_CVSDK_DIR="$INTEL_OPENVINO_DIR"

终端检查INTEL_OPENVINO_DIR路径显示为/usrs/xuejun,阿西,这个路径下么得python,怎么能行。

~ % echo $INTEL_OPENVINO_DIR 

问题找到了,那就把openvino下的python路径添加到这里即可,如下:

export INTEL_OPENVINO_DIR="/opt/intel/openvino_2021"

保存一下,打开新的终端,吴彦祖再度楼露出了会心的微笑。

 一切就绪,跑个demo,结果如下

  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
### 回答1: OpenVINO(Open Visual Inference and Neural Network Optimization)是英特尔开发的一款深度学习模型优化和部署工具集。Python作为一种流行的编程语言,可以与OpenVINO 2022一起使用来部署模型。 首先,要使用OpenVINO 2022部署模型,需要先安装OpenVINO 2022的Python库。可以从英特尔官方网站下载和安装适用于对应操作系统的OpenVINO 2022本。安装完成后,需要进行一些配置,以确保Python可以正确访问OpenVINO。 接下来,需要将训练好的深度学习模型转换为OpenVINO支持的IR(Intermediate Representation)格式。OpenVINO提供了一个Model Optimizer工具,可以将常见深度学习框架(如TensorFlow、Caffe等)导出的模型转换为OpenVINO可用的IR格式。只需使用Model Optimizer提供的命令行接口或Python API加载模型,并指定输出的IR格式,然后运行转换过程即可。 转换完成后,可以使用Python编写部署模型的应用程序。在Python中,可以使用OpenVINO的Python库来加载和推断IR模型。首先,通过指定IR模型的文件路径,使用OpenVINO提供的函数加载模型。然后,可以使用加载的模型进行推断,输入模型所需的数据,并获取模型的输出结果。 在推断过程中,还可以使用OpenVINO提供的工具和功能来优化推理性能,例如异步推断、多线程推断等。根据具体的应用场景和需求,可以进一步调整并优化模型的推断性能。 最后,根据部署的目标平台,可以将Python应用程序打包为独立的可执行文件或交叉编译为适应不同平台的二进制文件。这样,就可以在目标平台上轻松部署和运行模型,实现高效的深度学习推理。 总结起来,使用Python与OpenVINO 2022一起部署模型的过程主要包括安装OpenVINO Python库、将模型转换为OpenVINO IR格式、编写Python应用程序进行模型推断,并进行性能优化。通过这些步骤,可以实现高性能的深度学习模型部署。 ### 回答2: 在Python中使用OpenVINO 2022部署模型涉及以下几个步骤。 首先,需要安装OpenVINO 2022并设置相应的环境变量。安装可以参考OpenVINO官方文档的说明。 接下来,需要使用OpenVINO模型优化工具来将训练好的模型转换为OpenVINO支持的中间表示格式。使用命令行工具或Python API去执行此转换。例如,可以使用Model Optimizer将TensorFlow或ONNX模型转换为IR(Intermediate Representation)格式。 然后,使用OpenVINO的推理引擎来加载和执行转换后的模型。可以使用Python的OpenVINO库来编写代码实现这个过程。首先,使用`IECore`类创建推理引擎的实例,然后使用这个实例加载转换后的模型文件,例如IR格式的`.xml`和`.bin`文件。接下来,创建`ExecutableNetwork`对象来将模型加载到可执行网络中。 在模型加载完成后,可以使用输入数据对模型进行推理。使用`Infer`函数将输入数据传递给模型,并获取输出结果。可以根据需要进行预处理或后处理。 最后,根据模型的需求对推理结果进行解析和使用。可以根据模型返回的结果进行相应的后处理,例如目标检测或图像分类等。 对于不同的应用场景,可能还需要进行其他的操作,例如模型调优、性能优化等。 总之,使用OpenVINO 2022在Python中部署模型可以通过安装OpenVINO、进行模型优化和转换,然后使用OpenVINO库加载和执行模型,最后处理模型输出结果来完成。 ### 回答3: Python使用OpenVINO 2022部署模型是一种将机器学习模型部署到边缘设备的方法。OpenVINO 2022(Open Visual Inference and Neural Network Optimization)是英特尔开发的一种开源工具套件,旨在优化和加速深度学习模型的推理过程。 要使用Python和OpenVINO 2022部署模型,首先需要安装OpenVINO 2022并配置相关环境。安装完成后,可以使用OpenVINO提供的Model Optimizer工具将训练好的模型转换为OpenVINO使用的中间表示(Intermediate Representation,IR)格式。 转换完成后,可以使用OpenVINO提供的推理引擎加载和运行模型。Python可以使用OpenVINO的Python API,从IR格式的模型文件中加载模型,并通过推理引擎对输入数据进行推理得出模型的输出结果。 在部署模型之前,需要对输入和输出数据进行预处理和后处理。预处理可能包括图像的规范化、尺寸调整等操作,后处理可能包括提取预测结果、根据模型的需求进行解码等操作。 另外,OpenVINO 2022还提供了许多优化技术,可以在部署模型的过程中进一步提升推理性能。这些技术包括模型量化、异步推理、模型并行等,可以根据具体需求选择和配置。 总之,Python使用OpenVINO 2022部署模型是一种高效、灵活的方式,可以在边缘设备上实现深度学习模型的快速推理。通过OpenVINO的优化技术,可以进一步提升模型的推理性能,使其适用于各种边缘计算场景。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值