Task Scheduling：Cloud-Edge 协作学习中的传输时间优化任务调度

本文出自论文 Task Scheduling with Optimized Transmission Time in Collaborative Cloud-Edge Learning，主要研究了一个任务调度问题来减少加权传输时间，同时把学习精度考虑在内。

---

深度渗透学习技术在任务关键性应用（如无人驾驶车）需要严格时间的要求来保证它的交互性和大型训练数据来保证它的准确性，这个不可能被云很容易地满足，使网络传输成为了技术瓶颈。边缘学习的出现成为了一个关键点，它通过在网络边缘处理和压缩原始数据来减少数据传输时间，同时会带来精度减少的问题。为了平衡边云架构之间的权衡，我们研究了一个任务调度问题来减少加权传输时间，同时把学习精度考虑在内。我们也通过广泛的轨迹驱动模拟实现最大完成时间减少到50%，证实了调度算法的有效性。

---

---

一、简介

1. 边缘学习概念的出现为延迟敏感性和成本有效性的学习打开了一扇机遇之门，它可以作为云学习的补充。其核心思想是推动应用程序、数据和计算任务从集中式群到网络边缘。通过卸载一个大量存储和计算到靠近用户的边缘服务器上，传统的云计算方法将被延伸到网络边缘。它在减少通信延迟和传输到云的流量中，与传统云计算方式相比具有一定的优势。
2. 在边缘学习结构下，边缘服务器将分割数据或执行数据维度减少的算法，这种方法可以减少网络传输流量和通信时间，同时牺牲学习精度是难以避免的。
3. 在本文中，我们研究了一个任务调度问题来优化加权数据传输时间，同时将精度考虑在内。我们首先定义我们的调度问题作为一个混合整数问题，其转换成一个基于学习精度和流量减少权衡的整数线性规划问题。我们提出来两种算法来解决我们对应的问题，使用轨迹驱动模拟，我们算法可以展示出其减少数据传输时间的良好性能。

二、背景和边缘学习框架

1. 由于数据量大以及隐私性，边缘成为了一个中间结构，用来卸载部分训练任务，并使在边缘的模型训练成为一个优化选择。由于边缘服务器上的计算资源受限，云仍然在边缘学习应用中扮演着一个重要的角色，因为只有部分计算可以被卸载到边缘，另外一部分仍然需要在云数据中心被处理执行。另外，最先进的深度学习应用被设计为云集中模式，并不适用于端边云架构。一个终端用户可以通过改变任何终端用户可用接入网络的网络连接，来切换不同的边缘网络。因此，为每个终端用户安排连接来获取最好的服务质量（QoS）具有一定的挑战性。
2. 我们基于端边云架构来描述一个边缘学习框架。对于每个终端设备，这里有一个或几个边缘服务器可以被访问。在被上传到云端用来主神经网络训练前，数据需要被卸载到其中一个可访问边缘服务器来做预学习或预处理。除了边缘学习处理，我们的云边学习系统将提供一个合适的调度方案来安排终端设备到一个边缘服务器，这样在边缘服务器的资源将可以被有效地利用起来。
   
3. 我们的workflow由两个阶段组成。第一个阶段是调度处理，终端设备发送它们的训练数据大小信息，并选择深度学习模型到云。然后云收集到所有的信息，运行此调度方案去生成一个连接计划，最终将边缘服务器连接信息反馈到每个终端设备。第二个阶段是云边系统的深度学习处理，训练数据被终端设备所产生，这些数据被发送到已经安排好的边缘服务器，来进行边缘预学习或预处理。边缘服务器的主要工作是提取特征，执行维度减少算法，或者分离整个深度神经网络和将部分工作负载从云移动到附近的边缘服务器上。为云深度学习应用引入边缘可以显著减少数据流量和云工作负载，但同时由于数据压缩会减少学习精度。
   

三、边缘学习调度

1. 我们将集中于线下深度学习任务调度问题，并将它用数学公式进行定义。通过分析学习精度和流量减少的关系，我们证实到在我们定义好的问题中，对每个工作这里存在着一个最好的空间剩余比。于是，我们进一步将我们的问题公式转化为整数线性规划问题（ILP）。
2. 系统模型：我们将J定义为学习任务，M定义为边缘服务器，D定义为原始数据大小，R定义为空间剩余比，等同于压缩数据集大小与原始数据集大小的比值，我们将每个边缘的带宽约束定义为B。因此我们可以计算数据传输时间$P_{i,j}$定义为：$P_{i,j}=\frac{D_i\ast R_i}{B_j}$，其中i表示任务下标，j表示边缘服务器的下标。