Python开发深度学习推理程序OpenCV版和OpenVINO版对比

本文对比了使用OpenCV和OpenVINO在Python中进行深度学习推理的性能。在相同的硬件平台上,环境设置完成后,经过测试,OpenCV版推理程序(digit_infer.py)和OpenVINO版推理程序(digit_detector.py)的运行时间接近,两者在连续推理1000次的情况下表现相当。
摘要由CSDN通过智能技术生成

硬件平台及模型设置:

见博客:https://blog.csdn.net/weixin_43978579/article/details/107690552

环境设置:

在Windows 10上安装好OpenVINO 2020.4之后,设置环境变量。

打开命令行cmd,执行:

C:\Users\Panda>"C:\Program Files (x86)\IntelSWTools\openvino\bin\setupvars.bat"

Python 3.6.5

[setupvars.bat] OpenVINO environment initialized

看到如上显示,说明环境变量设置正确。

打开Python,执行下面代码,

C:\openVINOdemo\shuatiP>python

Python 3.6.5 (v3.6.5:f59c0932b4, Mar 28 2018, 17:00:18) [MSC v.1900 64 bit (AMD64)] on win32

Type "help", "copyright", "credits" or "license" for more information.

>>> import cv2

>>> cv2.__version__

'4.4.0-openvino'

>>> from openvino.inference_engine import IECore

>>> ie=IECore()

>>> ie.available_devices

[E:] [BSL] found 0 ioexpander device

['CPU', 'GNA'
OpenCV DNN(深度神经网络)是OpenCV库中的一个模块,用于实现深度学习模型的推理功能。它支持多种深度学习框架,如Caffe、TensorFlow和Torch,可以加载训练好的模型并进行图像分类、目标检测、人脸识别等任务。OpenCV DNN提供了简单易用的API接口,使得开发者可以方便地集成深度学习模型到他们的应用中。 OpenVINOOpen Visual Inference & Neural Network Optimization)是Intel开发的一种开源工具套件,旨在加速深度学习模型的推理过程。它可以将训练好的模型转换成一个可优化执行的格式,并通过硬件加速技术(如英特尔的CPU、GPU、VPU等)提高推理性能。OpenVINO支持多种深度学习框架,如TensorFlow、Caffe和ONNX等,并提供了简洁的API接口,使得开发者可以轻松地在各种硬件设备上部署高性能的深度学习应用。 ONNXRuntime是一个开源的深度学习推理引擎,由微软开发。它支持ONNX(Open Neural Network Exchange)格式,可以加载和执行经过训练的ONNX模型。ONNXRuntime针对不同的硬件设备(如CPU、GPU、边缘设备)进行了优化,提供了高性能的推理能力。同时,它还支持多种编程语言,如C++、Python和C#,并提供了易用的API接口,使得开发者可以方便地集成ONNX模型到他们的应用中。 综上所述,OpenCV DNN、OpenVINO和ONNXRuntime都是用于深度学习推理的工具。OpenCV DNN提供了简单易用的API接口,OpenVINO通过硬件加速技术优化模型推理,而ONNXRuntime支持ONNX模型并进行了硬件和语言的优化。这些工具都能帮助开发者快速部署和优化深度学习模型,提高推理性能。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值