前言
虽然这一代的树莓派增加了内存,但主频的限制使得直接用纯主板推理,速度还是不够实时,这一篇我们介绍一下在树莓派上部署 OpenVINO 神经棒,进一步提升AI的推理速度。
Intel的了第二代神经计算棒(Neural Compute Stick 2/NCS 2),身材依然只有U盘大小,尺寸只有72.5×27×14毫米,内置了最新的Intel Movidius Myriad X VPU视觉处理器,集成16个SHAVE计算核心、专用深度神经网络硬件加速器,可以极低的功耗执行高性能视觉和AI推理运算,支持TensorFlow、Caffe开发框架。
按照Intel给出的数据,NCS 2的性能比之前的Movidius计算棒有了极大的提升,其中图像分类性能高出约5倍,物体检测性能则高出约4倍。
NCS2 的主要特点:
边缘处的深度学习推理
Open Model Zoo 上预先训练的模型
一个函数库和预先优化的内核,用于更快地投放到市场
支持使用一个公共 API 的跨各种计算机视觉加速器(CPU、GPU、VPU 和 FPGA)的异质性执行
Raspberry Pi 硬件支持
安装OpenVINO 工具套件
NCS2 支持树莓派作为其的一个特点,intel