Google Coral Edge TPU与 英伟达 Jetson Nano:快速深入了解Edge AI 边缘人工智能的性能。
最近我一直在阅读,测试和写一些关于边缘计算的内容,主要关注边缘AI。 最近很酷的新硬件上架,我渴望比较新平台的性能,甚至测试它们与高性能系统的对比。
硬件
我感兴趣的主要设备是新的英伟达 Jetson Nano(128CUDA)和Google Coral Edge TPU(USB加速器),我还将测试i7-7700K + GTX1080(2560CUDA),Raspberry Pi 3B +,以及我自己的老主力,一个2014年的macbook pro,包含一个i7-4870HQ(没有支持CUDA的内核)。
软件
我将使用MobileNetV2作为分类器,在imagenet数据集上进行预训练。我直接从Keras使用这个模型,我使用TensorFlow后端。使用GPU的浮点权重,以及CPU和Coral Edge TPU的8位量化tflite版本。
首先,加载喜鹊的模型和图像。然后我执行1个预测作为预热(因为我注意到第一个预测总是比下一