先进的 AI 边缘设备平台
NVIDIA Jetson 是业内领先的 AI 计算平台,它面向移动嵌入式系统市场中的 GPU 加速并行处理。在深度学习和计算机视觉方面的高性能、低能耗计算,使得 Jetson 成为计算密集型嵌入式项目的理想平台。
--摘自NVIDIA jetson平台介绍
https://www.nvidia.com/zh-cn/autonomous-machines/embedded-systems/
“借助高性能、低能耗的 NVIDIA Jetson 系,在您亟需之时获得实时人工智能 (AI) 性能。现在,我们可以在板载边缘设备上处理复杂数据。这表示您可以在任何设备上实现快速且精确的推理,从机器人和无人机到企业协作设备和智能摄像机无一不可。将 AI 应用于边缘设备发挥出了设备在网络受限环境下的巨大潜力。”
--摘自NVIDIA jetson平台介绍
https://www.nvidia.com/zh-cn/autonomous-machines/embedded-systems-dev-kits-modules/
官网的介绍大家可以慢慢去理解。个人用通俗易懂的语言解释一下什么是jetson,举个例子,你需要做一个野外探险的机器人,想让这个机器人去猎杀动物,采集野外的金矿,他需要一个能够处理信息、做出判断、控制身体的大脑,jetson就是这个机器人的大脑。jetson是一系列硬件的统称,比如Intel 酷睿系列处理器有i3 i5 i7,jetson系列目前为止已经出到第三代了。前两代是TX1 TX2,最新的一代是Xavier。
有一些概念这里需要提一下:
自主机器autonomous machines,我们上边所说的机器人就是一种自主机器,它能够自主的去完成很多任务,其能够完成的任务复杂度,与其本身集成的算法有关,也与其“大脑”(核心处理器)的计算能力有关,算法越智能,处理能力越强,机器人反应能力越快,就越聪明。
边缘人工智能AI at the edge,一个常见的生活场景,微信在进行语音转文字的时候,如果不联网,是无法进行的,联网的原因是因为云服务器上的算法和算力非常强大,速度很快。那么问题来了,想象一些无法联网或者不想联网的场景,你的机器人在野外因为无法联网连走路都不会了,摔倒在地,或者你的机器人因为联网被黑客攻击,把你的家烧了,当然现实情况不会这么糟,可是这就对自主机器有了新的要求,在不联网或者不方便联网的条件下,进行AI计算。
显然,普通的单片机或者嵌入式设备在进行deep learning或者其他AI计算时显得不那么合适,因为太慢了。
NVIDIA针对于这种应用场景搞了一种嵌入式GPU设备,这种设备因为底层硬件处理单元的优化,非常适用于深度学习,深层神经网络模型的推理运算,这个设备就是jetson系列。
关于deep learning中的模型训练training 和模型推理inference,我后边会写一篇文章来进行解释。
本篇对于jetson的介绍就这样,下一篇开始带大家一步一步把jetson Xavier用起来。