openvino的软硬件测试+yolov3的加速推理测试

最新推荐文章于 2024-08-24 08:00:00 发布

尹道长

最新推荐文章于 2024-08-24 08:00:00 发布

阅读量1.7k

点赞数 4

文章标签：神经网络机器学习 tensorflow 深度学习

本文链接：https://blog.csdn.net/weixin_41105274/article/details/107644084

版权

openvino的软硬件测试+yolov3的加速推理测试

文章最后有整个项目的下载链接
软件使用测评
1.对于openvino软件平台，我首先在个人电脑上进行了安装测试，使用的是openvino_2020.2.117版本，电脑配置如下图所示：**
在这里插入图片描述
2.需要的环境配置好之后（VS2017、CMake3.14、Opencv4、Anaconda3下的python3.6）安操作是很简单，不过安装的时候由于VS2017、Opencv 版本以及CMake3.14兼容性出现了很多问题，都一一解决，一路磕磕绊绊的总算是安装好了。
3.进行了多个demo的验证测试
3.1第一个进行的是face_recognition_demo
在这里插入图片描述
长得丑就不露脸了，直接手机搜了一张图片，速度很快，精度也很高。
3.2第二个进行的是classification_sample

3.3第三个是demo_squeezenet_download_convert_run.bat
3.4进行了对yolov3的openvino推理模型的对比测试
3.4.1没有经过openvino推理加速的yolov3模型，检测速度尚可，精度很高，如下图所示
在这里插入图片描述
3.4.2经过openvino推理加速之后的，这是-d CPU下，速度那是杠杠的，但是精度有所下降

**3.4.3这是-d MYRIAD 使用了神经计算棒，速度也很快

4. 利用yolov3训练自己的数据（检测箱子以及缺陷），然后将训练好的yolov3模型转换成openvino的IR形式，加速推理。（转换的过程中，遇到了很多问题，我是通过以下的方式进行的转换）

在这里插入图片描述
4.1 未用openvino加速的检测情况（未转化为IR）

4.2 用了openvino加速推理的情况 -d CPU （转化为IR）

4.3 用了openvino加速推理的情况 -d GPU （转化为IR）

硬件使用测评
硬件平台使用的是LattePanda，刚开始拿到手，组装很简单，就是wifi模块有点不太好安装。然后激活，根据在自己PC上的安装经验，在LattePanda安装了Windows下的openvino的运行环境，Intel神经计算棒NCS2的性能不错，可以很方便地把训练好的网络模型做优化，并加以部署。

整个项目的下载链接（比较大，包含了我所有的模型、数据、文档）
项目下载链接
提取码：yolo