openvino2022.1.0+yolov5-6.1,ubuntu18.04下运行环境搭建:
1.安装OpenVINO Runtime运行库
pip3 install openvino==2022.1.0
测试环境,如果安装成功则控制台不会有任何输出
python3 -c "from openvino.runtime import Core"
如何找不到安装包,则可能需要更新pip
python3 -m pip3 install --upgrade pip
2.安装核显驱动
from openvino.runtime import Core
ie = Core()
devices = ie.available_devices
for device in devices:
device_name = ie.get_property(device_name=device, name="FULL_DEVICE_NAME")
print(f"{device}: {device_name}")
使用上述代码测试可用设备发现只有cpu可以,此时需要更新显卡驱动
将驱动安装文件,放置在目录下
neo目录中包含手动下载好的驱动文件
设置执行权限
chmod 755 install_NEO_OCL_driver.sh
运行安装脚本(此脚本在官方脚本的基础上进行了修改,注释了下载驱动包的部分)
sudo -E ./install_NEO_OCL_driver.sh
安装完成后再次测试可用设备,发现GPU可用。
或
3.安装依赖
pip3 install pyyaml
升级opencv版本
pip3 install opencv-python==4.5.5.64
扩展阅读
在i7-6700TCPU的工控机运行,对比C++版本,和python版本,调用openvino加速包对同一张图片循环加载并推理的运行情况
代码 | 推理设备 | cpu占用 | 平均耗时 |
---|---|---|---|
c++ | cpu | 350% | 216ms |
c++ | gpu | 102% | 212ms |
python | cpu | 361% | 208ms |
python | gpu | 100% | 220ms |