本人听过在OpenVINO中直接用cpu也能很好将各种模型加速,并且不会卡顿。
要想用这个openvino工具包,我们必须了解其作用:
支持我们现在的opencv图像处理框架以及各种深度学习框架,支持windows、linux、Mac os系统,支持C++,python.
支持各种加速插件和训练插件,支持Intel系列的处理器,支持HD Graphics、UHD Graphocs等图像运算插件、还有FPGA线性排列加速、VPU等等。
加载模型,并能加速运行,对硬件的配置要求并不高,以至于可以一直用CPU加速处理数据。多线程运作,支持异步与同步执行推断,
内置模型优化器,能够进行模型转换,模型压缩,最关键能自行通过已有的模型进行模型优化。其中还存放了大量公开的精度较高的预训练模型以供个人进行,数据捕捉或者模型叠加等。
言归正传,我们是来解决问题的:
首先报错RuntimeError: Cannot load library,说明了问题出现在系统并不能加载这个库中的某个文件,而且这个文件一般都是DLL文件,而所以你就会很无语。
1、第一步检查自己环境是否配置成功,环境变量是否已添加,可以在conda环境下测试是否已经ok,这些都ok,说明你openvino安装成功,完全没问题。那问题出在哪呢?
2、第二步,下载openvinos时,会有两种选择的(如下图),第一种是Dev Tools,用来生成和优化深度学习模型,但一般来说,我们不下载这个包,因为这个包就类似pytorch/tensorflow框架是想进军深