以前海量数据是从数据中心产生的(如淘宝浏览记录),若想将这些数据加以利用去训练神经网络(大数据和AI的结合可以1、有效利用大数据,2、蓬勃发展AI),则需要在数据中心旁搭建自己的大数据处理平台,或者租用云计算服务器。
而未来随着物联网的发展,大部分数据将从边缘用户设备上产生(智能手环监测数据、各类传感器),此时若想使用AI对这些大量的数据加以挖掘利用,则最好在网络边缘(用户或接入网节点)对这些数据加以利用,而不是还要再传到远端的数据中心进行利用。即希望利用边缘网络设备或用户设备的计算能力进行AI训练(或至少参与到分层训练当中)。总之,边缘智能主要是让边缘网络设备或用户设备也可以参与到神经网络的训练和推理工作中。
由于边缘节点(用户或接入网节点)上的计算能力没以前数据中心那么强,直接用以前AI训练或推理的算法,可能会消耗大量能量,且时间较长。所以要设计新的分布式训练/推理算法,例如Federated learning(这个不新了)就是让多个边缘节点协作进行AI训练,多个节点在本地训练一会儿神经网络,然后传给中心节点汇合,然后中心节点再下发经汇合的神经网络参数,本地节点再继续训练,循环往复,直到收敛。