树莓派 cuda加速_Google Coral Edge TPU USB加速棒上手体验

• Google Coral Edge TPU USB加速棒上手体验
  • Edge AI是什么？它为何如此重要？
  • Edge TPU可以用来做什么？
  • 市面上已经有的其他AI边缘推理硬件
  • Coral Beta版
  • USB Accelerator
    • 开箱
    • 入门指南
    • 演示程序
    • Edge TPU API
    • 图像分类
    • 目标检测
    • 注意事项
    • 树莓派上性能的局限性

• • 深入拓展
    • 开发板（Dev Board）
    • 后续开发
    • 模块化系统（System-on-module, SOM）
    • PCI-E 加速器
    • Tensorflow与Coral项目
    • 展望

Google Coral Edge TPU USB加速棒上手体验

Edge AI是什么？它为何如此重要？

传统意义上，AI解决方案需要强大的并行计算处理能力，长期以来，AI服务都是通过联网在线的云端基于服务器的计算来提供服务。但是具有实时性要求的AI解决方案需要在设备上进行计算 ，因此边缘人工智能(Edge AI)正在逐渐进入人们的视野。

虽然本质上AI计算可以使用基于GPU的设备，但这套设备成本高昂，并且搭配非常繁琐，比如对内存要求越来越高、能耗越来越大等。无论是从研究还是创新角度来讲，边缘人工智能推理都正在成为蓬勃发展的深度学习革命越来越重要的组成部分。

与此同时手持设备（比如手机、平板等）日益普及，每年都能卖掉几十亿台，手机已然成为日常使用最为频繁的设备，可以预测对移动AI计算的需求也正在稳步增加。 因此，移动处理器的开发已经变得越来越以人工智能为重点，这些处理器都具有用于机器学习的专用硬件，比如现在主流的手机CPU评测都会加上一项AI计算能力的跑分。

目前从消费应用到企业应用都遍布 AI 的身影。随着联网设备数量的爆发式增长，以及对隐私/机密、低延迟时间和带宽限制的需求，云端训练的 AI 模型需要在边缘运行的情况不断增加。Edge TPU 是 Google 专门为在边缘运行 AI 而打造的 ASIC，它体型小、能耗低，但性能出色，让您可以在边缘部署高精度 AI。从下图可以看出Edge TPU核心的面积仅有一美分的大概十分之一大小。

Edge TPU可以用来做什么？

可以使用Edge TPU在移动设备上训练模型，但目前仅支持通过迁移学习在设备上重新训练的分类模型，这种训练方法是在Low-Shot Learning with Imprinted Weights这篇论文中提到的imprinted weight技术ÿ