个性化联邦学习(Personalized Federated Learning,PFL) 介绍（下）

最新推荐文章于 2024-05-21 11:42:43 发布
最新推荐文章于 2024-05-21 11:42:43 发布
阅读量1.1k 收藏 29
点赞数 22
分类专栏： 联邦学习(Federated Learning, FL) 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Jiayyyiii/article/details/134708250
版权
本文介绍了个性化联邦学习(PFL)的概念，强调了在不均匀数据分布（包括数量、特征和标签倾斜）下的研究现状。文章讨论了PFL中的不同非独立同分布设置，以及模型性能和系统性能的评价指标，同时指出可信AI评估在PFL中的应用前景。
摘要由CSDN通过智能技术生成

个性化联邦学习(Personalized Federated Learning,PFL) 介绍（下）

PFL 介绍（上）：入口

FL基本介绍：入口

PFL基准

尽管已经发布了针对FL的基准数据集，但它们在PFL研究中并没有被广泛采用。绝大多数PFL研究选择通过在机器学习中使用的公共基准数据集(例如MNIST， EMNIST，CIFAR-100)上执行自己的分区来模拟非iid设置，或者创建一个合成数据集。

  1. 数量倾斜：FL客户端持有不同大小的本地数据集，其中一些客户端拥有的数据量比其他客户端大得多。由于跨FL客户端的使用模式不同，数据大小的异构性在实际环境中非常普遍。为了模拟数据大小的异质性，直接使用来自不平衡数据集的数据，而无需进一步采样。也可以根据幂律将数据分发到FL客户端。

  2. 特征分布偏态：特征分布 P c ( x ) P_c(x) Pc​(x)

最低0.47元/天 解锁文章
「已注销」
关注
专栏目录
个性化联邦学习综述
联邦学习小白
06-16 1万+
《Personalized federated learning for intelligent iot applications》
个性化联邦学习(Personalized Federated Learning,PFL) 介绍（上）
Jiayyyiii的博客
11-30 3253
根据数据在参与实体之间的特征和样本空间分布方式，迁移学习可以分为和。现有的PFL工作主要集中在HFL设置上，HFL的应用场景占了大部分。
个性化联邦学习
qq_45281761的博客
01-25 2442
模型插值方法有一个简单的公式，它使用全局模型和局部模型的混合来学习个性化模型。但是，这些技术不能在FL设置下直接应用，在FL设置下，驻留在联合中的客户机上的数据是分布式的和私有的。PFL方法有四大类:1)基于数据的，2)基于模型的，3)基于体系结构的，4)基于相似性的。一般来说，基于蒸馏的FL架构有四种主要类型:(i)将知识蒸馏到每个FL客户端以学习更强的个性化模型，(ii)将知识蒸馏到FL服务器以学习更强的服务器模型，(iii)向FL客户端和FL服务器双向蒸馏，以及(iv)客户端之间的蒸馏。
【个性化联邦学习】Towards Personalized Federated Learning 论文笔记整理
weixin_44270151的博客
10-21 6214
尝试记录一下最近看的论文，顺便当个笔记同步了。这篇是个性化联邦学习的综述，Towards Personalized Federated Learning。
个性化联邦学习PFedMe详细解读（NeurIPS 2020）
我爱计算机视觉
04-06 3347
关注公众号，发现CV技术之美本文介绍一篇NeurIPS 2020 的论文『Personalized Federated Learning with Moreau Envelopes』，对个性化联邦学习 PFedMe 进行详细解读。详细信息如下：论文链接：https://arxiv.org/pdf/2006.08848.pdf项目链接：https://github.com...
个性化联邦学习Personalized federated learning
日拱一卒，功不唐捐。
08-17 2788
写在知乎了，链接点我
Towards Personalized Federated Learning（个性化联邦学习综述）文献阅读
NigeloYang
04-11 1440
数据监管领域最近的重大发展促使人们对保护隐私的人工智能的兴趣发生了翻天覆地的变化。这有助于联邦学习（FL）的普及，这是以隐私保护方式在数据孤岛上训练机器学习模型的领先范例。在本次调查中，我们探索了个性化FL（PFL）的领域，以解决FL对异构数据的基本挑战，这是所有现实世界数据集固有的普遍特征。
扫读 | Towards Personalized Federated Learning
欧氏空间
03-22 862
arxiv:2103.00710 传送门 综述个性化联邦学习（Personalized FL，PFL）的进展。讨论了PFL目前的发展阻碍，并将PFL分为基于数据的和基于模型的方法。展望PFL的发展轨迹、PFL的benchmarking、可信赖的PFL方法 PFL的发展阻碍 有限的FL框架 隐私保护约束。现有很多方法不满足隐私保护的需求，有的允许本地数据或元数据的共享，有的假设可以用能代表整体分布的代理数据集 PFL方法 基于数据的方法 目标是平滑掉统计上的异构性 数据增强，通常需要共享一些数据
联邦元学习
wohoo~
07-14 5477
联邦元学习
个性化联邦学习的总结.pdf
07-20
包含联邦多任务学习，FedProx，FedMD，具有个性化层的联邦学习，联邦迁移学习。
个性化联邦学习和异步联邦学习
最新发布
m0_48022770的博客
05-21 469
通过结合这两种方法，可以实现高效且个性化的联邦学习系统。- **个性化联邦学习**：主要关注如何根据各个客户端（如用户设备、机构等）的不同数据分布和需求，训练出个性化的模型，从而提高每个客户端的模型性能。- **异步联邦学习**：主要解决的是由于不同客户端的计算能力和通信延迟不同，导致的模型更新不同步的问题，从而提高整个系统的效率和模型的更新速度。- **异步联邦学习**：目标是解决同步联邦学习中的通信瓶颈和延迟问题，使得各个客户端可以在不同步的情况下，仍然有效地参与模型训练。
Personalized Federated Learning with Moreau Envelopes论文阅读+代码解析
qq_45478482的博客
02-27 2372
（好久没更新文章啦，现在开学继续肝） 论文地址点这里 一. 介绍 尽管FL具有数据隐私和减少通信的优势，但它面临着影响其性能和收敛速度的主要挑战：统计多样性，这意味着客户之间的数据分布是不同的（即非i.i.d.）。因此，使用这些非i.i.d.数据训练的全局模型很难在每个客户的数据上得到很好的推广。因此，个性化联邦学习在改变传统追求全局一个较好模型做到了平衡——全局与局部的调整，以适应本地数据集。 二. 相关工作 个性化联邦学习有：混合模型，情景化，元学习和多任务学习。（论文介绍了很多相关论文，在这里不加以赘
【论文 | 联邦学习】 | Towards Personalized Federated Learning 走向个性化的联邦学习
"You are worthy! You can do it!"
12-03 458
标题：Towards Personalized Federated Learning收录于：IEEE Transactions on Neural Networks and Learning Systems (Mar 28, 2022)作者单位：NTU，Alibaba Group，SDU，HKUST，WeBank本文提供了一个FL的概述，并讨论了PFL的关键动机。提出了一种独特的PFL技术分类法，根据PFL中的关键挑战和个性化策略进行分类，并强调了这些PFL方法的关键想法、挑战和机遇。
联邦学习中的个性化技术（Personalization）
SmartLab307的博客
04-02 324
联邦学习中，由于数据的统计异构问题，用户间的隐私数据具有分散、Non-IID(非独立同分布)特性，每个用户本地的数据分布会随着用户所在地以及用户偏好而变动。原因很简单，模型的暴力聚合(FedAvg)并不是线性的求和，每个用户自身的模型参数仅适合本身的数据，而不同用户数据间的数据分布以及质量差距较大。
GPFL个性化联邦学习：同时学习全局和个性化特征信息
m0_48022770的博客
04-16 706
提高模型的泛化能力是机器学习中一个重要的目标，因为我们通常希望训练出的模型能够对各种不同的情况和数据都能够做出准确的预测或分类。总的来说，label skew、feature shift和real world settings都是影响模型性能和泛化能力的重要因素，研究人员和从业者需要注意这些问题并采取相应的策略来处理，以提高模型在实际应用中的效果。2. 简化模型：减少模型的复杂度，例如减少神经网络的层数或节点数，使用正则化方法（如L1正则化、L2正则化）等，可以降低模型的拟合程度，减少过度拟合的风险。
Personalized Federated Learning with Exact Stochastic Gradient Descent 论文阅读
qq_45478482的博客
02-28 455
对个性化联邦学习论文的探究
arXiv | FedPer：带个性化层的联邦学习
KI的博客
03-05 4832
arXiv | FedPer：带个性化层的联邦学习
【联邦元学习】读懂Per-FedAvg个性化联邦学习：Personalized Federated Learning: A Meta-Learning Approach
BlueBlue
09-02 1958
论文：Fallah A, Mokhtari A, Ozdaglar A. Personalized Federated Learning: A Meta-Learning Approach[J]. arXiv pre-print server, 2020. 这篇文章提出了FedAvg的变体——Per-FedAvg，旨在解决联邦学习中的个性化问题。在联邦学习中结合元学习模型MAML，试图找出一个全局模型，使之在每个节点针对其自身的损失函数进行更新后均表现良好。 【原创，转载需标明出处】论文解析（内含论文原
FedALA: Adaptive Local Aggregation for Personalized Federated Learning
06-09
FedALA是一种个性化联邦学习的方法，它采用自适应局部聚合技术来使模型更好地适应本地数据。具体来说，FedALA通过在本地训练期间聚合本地模型的梯度，来实现模型更新的个性化。这种方法可以减少模型在全局通信时的通信开销，并且可以更好地保护本地数据隐私。FedALA在实验中表现出了比传统联邦学习方法更好的性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

「已注销」

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值