furoto_的博客

The Aggregation–Heterogeneity Trade-off in Federated Learning

对联邦学习算法个性化程度的研究表明，只有最大化全局模型的性能才会限制局部模型的个性化能力。在本文中，我们提倡自适应个性化联合学习（APFL）算法，其中每个客户端将训练其本地模型，同时为全局模型做出贡献。我们推导出局部模型和全局模型混合的泛化界限，并找到最佳混合参数。我们还提出了一种有效通信的优化方法来协作学习个性化模型并分析其在平滑强凸和非凸设置中的收敛性。大量的实验证明了我们的个性化模式的有效性，以及已建立的泛化理论的正确性。