论文阅读:Personalized Federated Learning:A Meta-Learning Approac

最新推荐文章于 2023-03-24 12:01:39 发布
最新推荐文章于 2023-03-24 12:01:39 发布
阅读量1.3k 收藏 3
点赞数 3
分类专栏： 论文阅读 文章标签： 深度学习 联邦学习 个性化联邦学习 异构数据 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_39715243/article/details/117472918
版权

论文名字

Personalized Federated Learning: A Meta-Learning Approach

来源

 

年份

2020.10.23

作者

Alireza Fallah, Aryan Mokhtari, Asuman Ozdaglar

核心点

使用meta learning实现联邦学习的个性化（差异化训练）

阅读日期

2021.5.28

影响因子

 

页数

29

引用数

 

引用

 

内容总结

文章主要解决的问题及解决方案：

主要针对联邦学习中客户端不平衡（non-iid）数据的问题，提出一种个性化联邦学习，使得不同客户端可以根据自己数据集的特点进行个性化训练。

 

文章相比之前的工作创新之处：

1、引入MAML，将客户端的训练当作一个task，全局模型相当于在训练中找到一个合适的初始化参数，使其能在各个客户端（即各个tasks）中能有好的效果，也就是全局模型训练的是局部模型这些任务。

 

文章的主要工作：

1、文中算法对应MAML部分：

 

 

 

三金samkam
关注
  • 3
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
【论文笔记】Personalized Federated Learning with Theoretical Guarantees: A MAML Approach
lasetd的博客
06-24 1151
论文笔记
【文献阅读笔记】Personalized Federated Learning: A Meta-LearningApproach
jyq的科研学习记录
10-22 809
本文研究个性化的联邦学习，目标是找到一个初始共享模型，当前或新用户可以很容易地适应他们的本地数据集通过执行一个或几个步骤的梯度下降对自己的数据。这种方法保留了联邦学习体系结构的所有好处，并通过结构为每个用户提供了更个性化的模型。
【联邦元学习】读懂Per-FedAvg个性化联邦学习：Personalized Federated Learning: A Meta-Learning Approach
BlueBlue
09-02 1801
论文：Fallah A, Mokhtari A, Ozdaglar A. Personalized Federated Learning: A Meta-Learning Approach[J]. arXiv pre-print server, 2020. 这篇文章提出了FedAvg的变体——Per-FedAvg，旨在解决联邦学习中的个性化问题。在联邦学习中结合元学习模型MAML，试图找出一个全局模型，使之在每个节点针对其自身的损失函数进行更新后均表现良好。 【原创，转载需标明出处】论文解析（内含论文原
联邦元学习（Federated meta learning）学习笔记
日拱一卒，功不唐捐。
08-17 6160
介绍联邦学习、元学习、联邦元学习以及他们的必要性、原理、方法、例子等内容
联邦学习+元学习：Federated Meta-Learning with Fast Convergence and Efficient Communication.(Fed-Meta)
qq_43663979的博客
10-13 1635
元学习+联邦学习
Federated-Learning-and-Split-Learning-with-raspberry-pi:SRDS 2020
05-19
请引用我们的工作为： @inproceedings{gao2020end,title={End-to-End Evaluation of Federated Learning and Split Learning for Internet of Things},author={Gao, Yansong and Kim, Minki and Abuadbba, Sharif ...
awesome-federated-learning:机器学习中有关联合学习和隐私的资源
05-13
出色的联合学习 与机器学习中的联合学习和隐私相关的资源列表。相关真棒列表文件简介与调查联合学习中的进步和开放性问题 联合机器学习：概念和应用 联合学习系统：数据隐私和保护的愿景，炒作和现实 揭开并行和...
GFL：Galaxy Federated Learning Framework（星际联邦学习框架）
02-05
GFL框架 GFL是基于pytorch的联合学习框架，它提供了不同的联合学习算法。 GFL还是Galaxy学习系统（GLS）的基础结构。 GLS是基于区块链和GFL的联合学习系统。 目前，GFL部分首先是开源的，而区块链部分将很快开源。...
Federated-Learning-PyTorch:实施基于分散数据的深度网络通信高效学习
05-06
联合学习（PyTorch） 香草联合学习论文的实施：。 在MNIST，Fashion MNIST和CIFAR10（IID和非IID）上进行了实验。 在非IID的情况下，用户之间的数据可以相等或不相等地分割。 由于这些实验的目的是说明联合学习范例...
Heterogeneous Federated Learning: State-of-the-art and Research
最新发布
03-23
Heterogeneous Federated Learning: State-of-the-art and Research
federated-learning:关于联邦学习的所有内容（论文，教程等）-联邦学习
05-13
联邦学习 Federated Learning Everything about federated learning. Your contribution is highly valued! 关于联邦学习的资料，包括：介绍、综述文章、最新文章、代表工作及其代码、数据集、论文等等。 欢迎一起贡献！ 目录 1. 教程 Tutorial 文字 PPT (AAAI-19) (AAAI-19) 视频 GDPR, Data Shortage and AI (AAAI-19 Invited Talk) 新闻 2019/02/09 谷歌发布全球首个产品级移动端分布式机器学习系统，数千万手机同步训练 2. 相关论文 Related Papers 综述与介绍 Survey And Introduction arXiv 201912 - Advances and Open Problems in Fede
Federated Meta-Learning with Fast Convergence and Efficient Communication论文阅读笔记
LauraXv的博客
03-03 1068
摘要 在移动设备上分布式训练机器学习模型所面对的统计和系统上的挑战是联邦学习现实应用中的瓶颈。本文通过实验说明meta-learning是解决这些问题的自然选择，并且提出了一个联邦元学习的框架FedMeta。和联邦学习相比，联邦元学习只共享meta-learner，而不是一整个模型。作者在LEAF数据集和一个真实的生产数据集上进行了实验。实验结果表明FedMeta更快收敛、需要的通信开销更少，并且相比于FedAvg能取得更高的准确率。同时，FedMeta只共享meta-learner，从而保护了隐私。
【联邦学习（Federated Learning）】- 从基本分布式思想开始理解联邦学习
1+1=王的博客
03-24 4199
机器学习和人工智能的成功离不开大量的数据，但随着人工智能在各行各业的应用落地，人们对于用户隐私数据保安全的关注度也在不断提高。如何在遵守更加严格的、新的隐私保护条例的前提下，解决数据碎片化和数据隔离的问题，是当前人工智能研究者必须解决的问题。在以上的背景基础下，人们开始寻求一种不必将所有数据集中到一个中心存储点就能够训练机器学习模型的方法。联邦学习旨在建立一个基于分布数据集的联邦学习模型。
Exploiting Shared Representations for Personalized Federated Learning【2021 icml】
qq_43663979的博客
10-19 358
FEDREP
论文阅读（联邦学习）：Exploiting Shared Representations for Personalized Federated Learning
qq_43250196的博客
02-13 2610
论文阅读（联邦学习）：Exploiting Shared Representations for Personalized Federated Learning
Exploiting Shared Representations for Personalized Federated Learning 论文笔记+代码解读
qq_45478482的博客
12-20 2333
论文地址点这里 一. 介绍 联邦学习中由于各个客户端上数据异构问题，导致全局训练模型无法适应每一个客户端的要求。作者通过利用客户端之间的共同代表来解决这个问题。具体来说，将数据异构的联邦学习问题视为并行学习任务，这些任务之间可能存在一些共同的结构，作者的目标是学习和利用这种共同的表示来提高每个客户端的模型质量，基于此提出了FedRep(联邦表示学习)。 FedRep： 联邦表示学习利用跨客户机的存储的所有数据，使用基于梯度的更新来学习全局低维表示。此外，使得每个客户端能够计算一个个性化的、低维的分类器，负责
联邦学习论文阅读：Federated meta-learning for recommendation
thormas1996的博客
04-01 4498
2018年fb的文章Federated meta-learning for recommendation的阅读笔记
Exploiting Shared Representations for Personalized Federated Learning利用共享表示实现个性化联邦学习
tiger00O的博客
03-05 680
联邦学习个性化
【联邦元学习】论文解读：Federated Meta-Learning for Fraudulent Credit Card Detection
BlueBlue
09-03 691
论文：Zheng W, Yan L, Gou C, et al. Federated Meta-Learning for Fraudulent Credit Card Detection[C], Proceedings of the Twenty-Ninth International Joint Conference on Artificial Intelligence Special Track on AI in FinTech. Pages 4654-4660. 2020: 4654-4660. 【
FedALA: Adaptive Local Aggregation for Personalized Federated Learning
06-09
FedALA是一种个性化联邦学习的方法，它采用自适应局部聚合技术来使模型更好地适应本地数据。具体来说，FedALA通过在本地训练期间聚合本地模型的梯度，来实现模型更新的个性化。这种方法可以减少模型在全局通信时的通信开销，并且可以更好地保护本地数据隐私。FedALA在实验中表现出了比传统联邦学习方法更好的性能。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

三金samkam

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值