北大AI公开课 第二讲 嵌入式人工智能

本次主讲：余凯，地平线创始人兼CEO。

        Conmputing Science的转变：从过去讲computing到现在关注data science。

         三要素推动发展该行业的发展：big data；big model；big computing。所有计算开始从pc到移动设备的聚合趋势，聚合到云计算、数据中心。

      提出个人对产业向前发展的思考，嵌入式人工智能

         现在大多数AI的计算都在BAT等的数据中心，使用云计算，远离数据中心，在互联网的边缘，反而存在一个巨大机会，即设备依赖自身的处理器等完成计算。。

      想法的由来：

         个人经历：硅谷第一个CV小组 àImageNet Challenge全球第一à 回国加入百度，创办AI中心à邀请Andrew加入百度。

         “未来原创技术改变世界的创举一定会从中国发生。”

         三大趋势：

趋势1：新摩尔定律。摩尔定律在过去2-30年推动科技界的发展。预计2045年，可购买到的计算资源相当于人脑。人脑和天河2号的功耗对比，1000瓦：20瓦。摩尔定律开始变慢，推动计算机向前发展的，不再是每个单位面积上的晶体管数目，而是架构的改进。

人脑，是一个special purpose，即特殊硬件计算设备。大脑对图像并行处理，而不是像计算机的逐行扫描、顺序扫描。人脑存在多个子系统，对不同的内容、部分进行优化。电脑作为通用处理器，灵活，可以完成多重任务但是效率不高，针对不同功能做优化，效率提高好2到3个量级。

         趋势2：从中心到边缘。PC到移动到IoT（物联网）。其他设备device更有AI的需求。百度：即搜即得；今日头条：不搜即得。因为移动设备上，有一个主动推荐机制，使得信息获取更高效。

设备要求：无延迟，实时计算，低功耗，低成本，并做好隐私保护。未来的计算更集中于边缘设备。举例：1.Amazon的Echo；2.监控摄像头；3.孙正义：2040年100亿的机器人设备，高价收购英国的ARM。

         趋势3，边缘竞赛，更高更快更强。无人驾驶的传感器数量更多，清晰度更高，速度越来越快，处理数据量的增加。

      5-10年最足颠覆性的产业机会

         产业发展的两个阶段：

1.       ToB，Enabling Technology，公司做技术本身，给第二波技术提供支持、服务

2.       ToC，Technology-enabled Business，公司利用ToB提供的服务，寻找消费者用户导向的机会。案例：CISCO（ToB阶段）àGoogle（ToC阶段）；移动时期的高通，苹果同样是。

         ToC技术创新代价高昂，机会被发掘的差不多，创新变得越来越沉重。

未来的机会：英伟达的成功，股票的不断增长，所以想做一个深度神经网络的处理器。所以创办了地平线机器人。全球市值top20公司，8家半导体公司，增长最快的20家公司，1、2名分别是英伟达和AMD。

关注点：加速Inference的效率，打造低功耗、高性能的解决方案。地平线的目标：表现/成本。表现=精确度*效率*可靠性。成本 = 功耗*money。

         人才：黄昌，计算机视觉突破；杨明，人脸识别系统；贾扬清，开发了Caffe；李沐，开发了MXNET，亚马逊云计算的官方深度学习平台。

         整个方法、流程：

1.       从系统角度优化

2.       设计高效的有效的算法框架

3.       根据算法，设计硬件架构

4.       用这个硬件架构，优化软件

5.       Compiler runtime library，缩小差距。

不要常识去解决通用性问题。

      对话环节：

1.      嵌入式系统专用性还是通用性，专门的去优化系统，优化硬件。

2.      算法迭代速度很快，硬件优化后，能否针对算法的迭代，算法很大的进步，架构，设计，后端，分装，系统软件，所以存在很大的风险。依然存在优势。

3.      长期项目的投资，选择一个长期的项目，较长的跑道的选择。长线钓大鱼。

4.      盘古处理器，相比其他处理处理器的差别和优势。专用处理器，解决特殊场景的特殊问题。

5.      智能到端的步伐，还需要多少年，智能家居爆发。技术是用来解决实际问题的。应用的边界的存在，去解决实际问题，显示和理想结合起来。

6.      开阔性思维多去听不同的问题。

7.      看到一个大的历史趋势，时间窗口，人工智能团队。变化中寻找10年不变的东西，在这方面不断增加自己的核心能力。看长时间维度，创新是一种孤独。