边缘计算3

包括物联网(IoT),社交网络和众包在内的新兴技术和应用程序会在网络边缘生成大量数据。机器学习模型通常是根据收集的数据构建的,以实现对未来事件的检测,分类和预测。
由于带宽,存储和隐私问题,将所有数据发送到集中位置通常是不切实际的。在本文中,我们考虑了学习模型参数的问题
来自分布在多个边缘节点上的数据,而无需将原始数据发送到集中位置。我们的重点是使用基于梯度下降的方法进行训练的一类通用的机器学习模型。我们从理论的角度分析了分布梯度下降的收敛边界,在此基础上,我们提出了一种控制算法,该算法确定局部更新和全局参数聚合之间的最佳折衷,以在给定资源预算下将损失函数最小化。通过在网络原型系统和较大规模的模拟环境下使用真实数据集进行的广泛实验对所提出算法的性能进行了评估。实验结果表明,在各种机器学习模型和不同模型下,我们提出的方法的性能均接近最优数据分布。

在本文中,我们专注于基于梯度下降的联合学习,其中包括局部更新和全局聚合步骤。 本地更新和全局聚合的每个步骤都会消耗资源。 我们已经分析了非i.d的联合学习的收敛范围。 数据分布。 利用该理论界限,已经提出了一种控制算法来实现局部更新和全局聚合之间的期望的折衷,以便最小化在资源预算约束下的损失函数。 大量的实验结果证实了我们提出的算法的有效性。 未来的工作可以研究如何最有效地利用异构资源进行分布式学习,以及代表深层神经网络的某种形式的非凸损失函数的理论收敛性分析。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值