机器学习的未来是以小为美，来自 TensorFlow 技术主管的深度见解

O'Reilly AI Conference 2019

Pete Wardan 任谷歌 TensorFlow 移动和嵌入式团队的 leader，在 O'Reilly AI Conference 2019 的 Keynote 演讲环节，他对机器学习的未来进行了深度剖析。他认为机器学习的未来就是以小为美。未来，微处理器将如何与机器学习共同合作？能否在技术上取得突破？这些问题值得深思。

想象一下这样一个世界：数千亿台设备不仅收集数据，而且会将数据转化为可操作的意见，而这些意见可以改善数十亿人的生活。

而要做到这一点，我们需要机器学习。但是一般来说，机器学习会消耗大量的系统资源。因此，低功耗，低成本的机器学习是目前需要探索并寻求突破的。

与此同时，深度神经网络也越来越多地被应用于改进很多东西，从广告系统到自动驾驶汽车原型，因此，它们也注定要改造微型计算机（即微控制器）。

Pete Warden 还是  O'Reilly 的作者

因此，Pete 在演讲中指出，微型处理器、内嵌处理器是机器学习的未来。

微处理器已无处不在

Pete 首先用 Alexa 做了一个小演示，展示了基于网络的机器学习模型如何在小型的、内嵌式的处理器上去运行的，以及它可以持续几周的时间。

之所以选择用 Alexa 演示，是因为这台设备没有联网，也没有 Wi-Fi 和蓝牙，它只是在 20KB 的模型上运行，这个微型处理器也只有几百 KB 的内存。而这个模型仅仅靠钮扣电池供电，就能独立运行数周的时间。

这一点非常重要。因为全世界有 2500 亿个微处理器，每年出货量达到了 400 亿，每年都有 20% 的增幅，平均成本不到 50 美分。这样的产品已经非常便宜而且无处不在。

此外，CPU 如今也已经很便宜了，几乎都是免费的。但是我们把处理器安装到设备上之后，却要专门接电线为其供电，比如在机场，这个供电系统可能就要花几千美金。

除了布线问题，还在于，某些场合，比如手术室、工厂车间，可能并没有合适的地方去增加电源插座等设备。所以说，这非常不合理。能源供应问题成了很多设备的限制因素。

手机需频繁充电的首要原因——高能耗

以我们现在每天都离不开的手机为例。虽然手机不需要连接外部的电源，但它每天都需要充电。如果你有几十个甚至几百个电子设备需要进行打理的话，那可能你所有的时间都花在充电上了。所以很多设备，我们只好采取即插即用的办法来供电。

智能手机的能耗情况如何，为什么总要频繁充电？请参考以下数据：

显示器大约使用 400 毫瓦；

有源蜂窝无线电大约使用 800 毫瓦；

蓝牙大约使用 100 毫瓦；

加速度计使用 21 毫瓦；

陀螺仪消耗 130 毫瓦；

GPS 消耗 176 毫瓦。

如果我们把手机的能耗降到1毫瓦以下，那么仅仅一枚钮扣电池就能支持手机运行一个月。我们需要在这样的能耗限制下进行设计，才能保证无所不在的微处理计算和人工智能技术相得益彰。

传感器数据被浪费的原因——传输能耗太大

现有的 CPU 做计算本身是基本没有功耗的，它可以把功耗降到几百微瓦的水平，传感器也是如此。比如，麦克风的功耗也非常低，还有图形传感器。麦克风可能是几百微瓦的水平，传感器也是可以降到 1 毫瓦的水平。

因此，微处理器和传感器可以把功耗降到非常低的程度。低功耗的解决方案大大提升了传感器收集数据的能力，它们能够更频繁地查看需要的信息。

然而，虽然传感器能够以很低的功耗获得巨量的数据，但是这些却没有得到充分的应用。

比如，几年前，一家卫星公司，能够拍摄很多高清晰度的图片。但是因为带宽的问题，每个小时只能下载几百 MB 的数据，所以卫星和地面的通讯成本太高了，最终我们能得到的图片只是很少的一部分。

此外，比如在工厂里面的温度计，它们可以获取很多的数据。但是工厂并没有那么多的电力把这些数据上传到云端，所以很多数据也都被浪费了。

深度学习与微处理器的完美配合

对于现有的这些问题，技术应该发挥什么样的作用？如何能够把大量的传感器的数据利用起来，把它的价值发挥出来？能否降低设备能耗？

Pete 认为还有很大的市场等待科技去解锁

机器学习在这方面就可以发挥非常重要的作用，具体来说，是深度学习。因为深度学习才能够最有效地把这些混沌的、非结构性质的数据利用起来。

深度学习可以处理大量未标记的数据

很少有人意识到深度学习和微处理器（MCU）的匹配程度。深度学习实际上是基于计算，而不是依靠通讯或者数据读取来运行的。因此，我们不需要很大的内存，也不需要大量访问内存。这恰好也符合微处理器的设计，它只有几百 KB 的内存，同时每秒可以运行几千万甚至上亿次的指令。

所以我们可以用很低的功耗来满足它的学习或者训练目的。如果我们知道对于一个给定的神经网络系统，它需要 5 皮焦（pJ）的能耗来执行一个操作，如果用最小的图象识别，它需要 2200 万的浮点计算，那么它将共需要 5 皮焦 * 22,000,000 = 110 微焦（µJ）的能量来执行这个操作。如果每秒分析一帧，那只需要 110 微瓦，如此，用钮扣电池就能供一年的电量，而且不需要对现有的硬件改进。

谷歌的团队曾在 2014年开发了一个 13KB 的模型来进行语音识别，而苹果也在做类似的研发工作。所以这些语音识别团队，就可以在非联网的微型处理器上来进行机器学习和训练。

TensorFlow Lite ——赋予移动终端机器学习的能力

2017 年，谷歌在 Google I/O 大会推出 TensorFlow Lite，是专门针对移动设备上可运行的深度网络模型简单版。但当时只是开发者预览版，未推出正式版。

2019 年 3 月，TensorFlow Lite 嵌入式平台发布了第一个实验原型。这是由SparkFun 构建的开发板的原型，它有一个 Cortex M4 处理器，具有 384KB 的 RAM 和 1MB 的闪存存储。该处理器功率极低，在许多情况下功耗不到 1 毫瓦，因此它可以仅凭小型纽扣电池运行很多天。

Pete 在安卓开发峰会上介绍 TensorFlow Lite

它完全在本地嵌入式芯片上运行，无需任何互联网连接，因此最好将其作为语音接口系统的一部分。该模型本身占用的存储空间不到 20KB，TensorFlow Lite 代码的占用空间仅为 25KB 的 Flash，而且只需要 30KB 的 RAM 即可运行。

TensorFlow Lite 的目标便是移动和嵌入式设备，它赋予了这些设备在终端本地运行机器学习模型的能力，从而不再需要向云端服务器发送数据。这样一来，不但节省了网络流量、减少了时间开销，而且还充分帮助用户保护自己的隐私和敏感信息。

TensorFlow Lite 被用来解决了移动设备的图像分类、物体检测、智能聊天的问题。

深度学习未来的应用

深度学习最关键的在于，它特别适合把传感器的数据转化为非常有价值的资产。

全语音界面

深度学习的一个「杀手」应用，也许在不久的将来就会实现，那便是：全语音的界面。这样的界面用 50 美分的芯片就可以实现，同时，用一个钮扣电池就可以维持一年的运行。如此一来，我们可以只用语音操控，而不再需要开关或者是按纽了。所有的机器、设备都可以使用语音通讯的界面。

这种便宜的芯片还可以用于农业的用途，比如通过图形识别可以用很低的成本来识别有害杂草，农业工作者便可以精准地施用农药。

预维护模式

另外，还有预测式维护。我们可以预先知道哪些机器可以出故障。比如针对汽车故障，人不可能到汽车里面去看发动机哪出了什么问题，或者听出马达的声音出现了问题，但是我们可以对模型进行训练，把这些设备直接插到系统里面，不需要做新的布线或联网，这个设备就可以直接告诉你：系统好像出问题了，设备需要及时维护、维修。当然，这个模型并不需要持续上网发出设备信息，只是当要发生重大事故或者隐患的时候才会发出通讯。

深度学习未来的应用

未来的世界有更多的可能性，现在人工智能对于我们，就像八十年代的电脑一样。我们不知道它会发展成什么样子，但是我们可以想象一下我们目前面对的各种问题和挑战，在工作中面临的困难。如何用小小的芯片进行机器学习？这方面我们可以有新的角度去探索，也有新的研究成果去发挥作用。

关于Pete Warden

Pete Warden 是 谷歌 TensorFlow Mobile 团队的技术主管，曾担任 Jetpac 的首席技术官，该公司于 2014 年被谷歌收购，因其深度学习技术优化，可在移动和嵌入式设备上运行。他之前曾在 Apple 从事 GPU 优化图像处理工作。Pete Warden 曾为O'Reilly 撰写几本关于数据处理的书籍。