边缘智能概述

---

前言

本文主要是记录边缘智能相关论文的学习笔记，主要参考了边缘智能-现状和展望这篇论文。

一、何为人工智能？

人工智能：

研究、开发用于模拟、延伸和扩展人的智能的一门新的技术学科。所谓智能即是人脑比较过去，预测未来的能力。

人工智能的最大优势在于它可以通过对外部声音、图像、环境或思维方式的处理，制定出问题的解决方法，对各类信息数据进行智能化的分析处理。相较于人工处理，人工智能更加快速高效。
人工智能的优势：

• 1.人工智能可以在很大程度上解决现实生活中无法处理的问题。
• 2.可以实现对于数据的加速处理。

由于人工智能大部分计算任务都部署在云计算中心等平台上，限制了人工智能的移动性。故而提出了边缘智能，受益于边缘计算的实时性，安全，隐私性的优点，将人工智能部署于边缘设备上可以更好的为用户提供服务。

二、边缘智能梗概

边缘智能即将人工智能融入边缘计算，部署在边缘设备。

三、边缘智能面临挑战

1. 计算、存储、能耗等资源受限。边缘设备的计算能力与存储能力远小于专用服务器，无法满足人工智能的需求。
2. 边缘网络资源不足。
3. 人工智能在边缘并行困难。人工智能模拟人脑神经元的相互关联，各部分之间的依赖性强，在分布式环境下并行困难。

四、边缘智能面临挑战

边缘智能当前的主要研究方向为边云协同、模型分割、模型压缩、减少冗余数据传输、设计轻量级加速体系结构。

其中边云协同、模型分割、模型压缩主要减少边缘智能在计算、存储方面对边缘设备的要求。
减少冗余数据传输主要用于提高边缘网络资源的利用率。
设计轻量级加速体系主要是提升智能计算效率。

1. 边云协同：为了弥补边缘设备的计算和存储能力的不足，提出了云计算和边计算协同服务架构。即将训练过程部署在云端，而得到的模型部署在边缘设备。（Edge TPU专用集成电路芯片可用于在边缘设备上运行TensorFlow Lite机器学习模型，Cloud IoT Edge 软件系统，可以将机器学习功能拓展到边缘设备上）
2. 模型分割：为了将人工智能部署在边缘设备。它是一种边缘服务器和终端设备协同训练。通过将计算量大的卸载到边缘服务器，而计算量小的在本地运行。（切分点的选择）
3. 模型裁剪：对于计算、存储的能力需求。通过在不影响准确度的情况下去剪裁训练模型（丢弃非必要数据，稀疏数据表示，稀疏代价函数）
4. 减少冗余数据传输：主要在边云协同和模型压缩。如只将推测有误的数据再次训练
5. 设计轻量级加速体系结构：

1. 针对压缩、裁剪环境下的网络模型设计了的加速器
   Z H A N G S , D U Z , Z H A N G L , e t a l . Cambricon-X: an accelerator for sparse neural networks[C]//The 49th Annual IEEE/ACM International Symposium on Microarchitecture, O c t ob e r 1 5 -19, 2 016 , Ta ip e i , C h i n a . Piscataway: IEEE Press,2016: 1-12
2. 可编程的硬件加速
   N O W A T Z K I T , G A N G A D H A R V , SANKARALINGAM K, et al. Pushing the limits of accelerator efficiency while retaining programmability[C]//IEEE International Symposium on High Performance Computer Architecture (HPCA), March 12-16, 2016, Barcelona, Spain. Piscataway: IEEE Press, 2016: 27-39
3. 利用可重构硬件特性，维持硬件面积的同时扩大应用范围
   LI Z, LIU L , DENG Y, et al. Aggressive pipelining of ir reg ula r applications on reconfigurable hardware[C]//ACM / IEEE I nter n at ion a l Sy mp o siu m on C omputer Architecture (ISCA), June 24-28, 2017, Toronto, Canada. Piscataway: IEEE Press, 2017: 575-586.
4. 低功耗加速芯片