【联邦/元学习】个性化联邦学习论文笔记：《Improving federated learning personalization via model agnostic meta learning》

论文：《Improving federated learning personalization via model agnostic meta learning》

Citation：Y. Jiang, J. Konecny, K. Rush, and S. Kannan, “Improving federated learning personalization via model agnostic meta learning,” arXiv preprint arXiv:1909.12488, 2019.

原文链接：https://arxiv.org/abs/1909.12488

0、摘要

联邦学习 FL：在不复制原始数据的情况下，基于去中心化数据存储学习高质量的全局模型。
动机：针对不同的设备（客户端），存在数据异构性。
目的：为每一个客户端，设计一个个性化全局模型。

提出方法：基于元学习模型（MAML：快速优化、基于梯度、适应于异构分布）
1）流行的联邦学习算法（联邦学习 FedAvg）可以解释为一种元学习算法；
2）微调可以得到精度更高的全局模型，同时也更容易进行个性化；但仅对全局模型优化会产生较弱的个性化结果。

1、介绍

使用联邦学习的原因：大规模数据集导致了隐私风险，联邦算法可以保护每