Edge AI(边缘人工智能)仍然是行业的焦点新事物,很多人不确定他们的项目应该选择哪种硬件及平台。今天,笔者将大家评测一些领先和新兴的AI软硬件平台。
自2012年开始深度学习热潮以来,英伟达就一直在其GPU上占据着AI芯片的主导地位。尽管它们耗电量大,运行时嘈杂且成本昂贵,但别无选择。大约3年前,Google宣布他们已经设计了Tensor处理单元(TPU),以加快数据中心的深度学习推理速度。这触发了成熟的科技公司和初创公司争相推出专门针对数据中心和边缘的专用AI芯片。
我们今天要谈论的是边缘AI的平台。那么,边缘AI到底是什么?边缘AI的术语是从边缘计算中借用的,这意味着计算是在数据源附近进行的。
在AI世界中,如你所见,应用场景包括物联网,移动电话,无人驾驶飞机,自动驾驶汽车等。因此,我们将重点放在AI平台上,个人和小型公司都可以开发和使用。
今天要评测的是英特尔的神经计算机棒,谷歌边缘计算芯片Edge TPU和英伟达的Jetson Nano。
性能
在评估用于实时部署的AI模型和硬件平台时,我首先要看的是-它们的速度如何。在计算机视觉任务中,通常以每秒帧数(FPS)来衡量基准。较高的数字表示较好的性能,对于实时视频流,你至少需要大约10 fps才能使视频显得流畅。基准测试中使用了许多应用程序,最常见的两个是分类和对象检测。在计算上,分类是最简单的任务,因为它只需要对图像进行预测即可。苹果或橙子。
另一方面,检测任务的要求更高,因为它将需要检测多个对象及其类的位置,例如。多辆汽车和行人。这正是需要硬件加速的应用。
了解了这两个应用程序的含义之后,我们现在可以查看基准测试结果(