干货 | human-pose-estimation在CPU、GPU、HDDL、MYRIAD等计算设备上的推理运行
爱分享的 OpenVINO 中文社区
来源| 康瑶明博客 https://luckykang.github.io
排版| 吴珊珊
使用设备为NUC,配置如下图:
一、前期工作:
1.安装openvino,我使用的版本为l_openvino_toolkit_p_2020.4.287
2.下载human-pose-estimation-0001
3.执行bulid
4.执行完build以后,会看到提示所有的demos都在~/omz_demos_build/intel64/Release/目录下
5.切换到路径/home/kang/omz_demos_build/human_pose_estimation_demo,编译demo
二、在CPU上进行推理:
可以看到cpu的使用率达到了94%,不得不说占用还是蛮高的
三、在GPU上进行推理:
1.安装驱动
切换到路径/opt/intel/openvino/install_dependencies,使用root权限执行脚本 install_NEO_OCL_driver.sh
出现下图内容,就表示安装成功了
2.进行推理运行
可以看到在使用GPU推理的时候,CPU的使用率下降了,大概为50%
四、在HDDL上进行推理:
1.安装驱动
切换到路径/opt/intel/openvino/deployment_tools/inference_engine/external/hddl,执行install_IVAD_VPU_dependencies.sh
安装完成后会在myd_vsc.conf中加载4个rules,因为我使用的设备是有4个Movidius。
2.在HDDL上推理运行
可以看到在使用HDDL推理的时候,CPU的使用率实际情况是波动会比较大,在8%到80%之间 起伏,并不稳定
五、在MYRIAD上进行推理:
1.安装MYRIAD驱动
切换到路径/opt/intel/openvino/install_dependencies,执行install_NCS_udev_rules.sh
2.推理运行
执行推理,CPU使用率稳定在54.9%左右
原文发布于2020-09-15:干货 | human-pose-estimation在CPU、GPU、HDDL、MYRIAD等计算设备上的推理运行
关注我们,让开发变得更有趣👇
微信号:openvinodev
B站:OpenVINO 中文社区
*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.