第37篇Personalized Federated Learning: A Meta-Learning Approach(perfedavg联邦学习+元学习)2020个性化联邦学习使用Hessian

第一部分:解决的问题

联邦学习(FL)在多用户协同训练模型时,因数据隐私和通信限制,用户仅与中央服务器交互 。传统 FL 方法得到的全局模型无法适应各用户的异质数据,导致在用户本地数据集上性能不佳

因此这篇论文旨在解决联邦学习中模型缺乏个性化的问题

第二部分:idea

基于模型无关元学习(MAML)框架,提出个性化联邦学习问题的新公式。通过寻找一个初始共享模型,让用户基于自身数据执行少量梯度下降步骤就能快速适应,既保留 FL 架构优势,又实现模型个性化。

第三部分:效果

在 MNIST 和 CIFAR - 10 数据集上进行多类分类实验,对比 FedAvg 和两种 Per-FedAvg 近似算法(Per-FedAvg (FO) 和 Per-FedAvg (HF))。结果表明,Per-FedAvg (HF) 在不同参数设置和数据异质性情况下,均优于 FedAvg,能实现更个性化的解决方案


第四部分:具体算法讲解

(1)算法1

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

还不秃顶的计科生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值