综述论文“Advances and Open Problems in Federated Learning”

最新推荐文章于 2024-08-04 15:05:43 发布
最新推荐文章于 2024-08-04 15:05:43 发布
阅读量4.1k 收藏 10
点赞数 1
分类专栏： 机器学习 文章标签： 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yorkhunter/article/details/103983708
版权
联邦学习（FL）是分布式机器学习的一种形式，允许设备在不共享数据的情况下协同训练模型，保护用户隐私。本文概述了FL的最新发展，强调了其在数据隐私和系统效率方面的优势，同时也指出了存在的问题和挑战，包括公平性、客户端选择偏差以及通信效率等。拆分学习作为FL的一个变体，通过在客户端和服务器之间按层划分模型，进一步增强了数据保护。未来的研究将关注如何在FL中实现更公平的模型训练和处理各种系统约束的影响。
摘要由CSDN通过智能技术生成

2019年12月10日arXiv上载的联邦学习综述论文“Advances and Open Problems in Federated Learning“。
在这里插入图片描述
摘要：联邦学习（FL）是一种机器学习设置，其中许多客户端（例如移动设备或整个组织）在中央服务器（例如服务提供商）的协调下协同训练模型，同时保持训练数据的分散性。 FL体现了集中数据收集和最小化的原理，并且可以减轻由于传统的集中式机器学习和数据科学方法导致的许多系统隐私风险和成本。 受FL研究爆炸性增长的推动，本文讨论了FL最新进展，并提出了大量未解决的问题和挑战。

联邦学习一词由谷歌研究部门McMahan等人于2016年引入：“我们将我们的方法称为联邦学习，因为学习任务是通过由中央服务器协调的参与设备（我们称为客户端）的松散联合来解决的。”

数据中心的联邦学习和分布学习典型特性比较：
Typical characteristics of federated learning settings vs. distributed learning in the datacenter

最低0.47元/天 解锁文章
硅谷秋水
关注
专栏目录
【论文记录】Advances and Open Problems in Federated Learning
Liu, Q. B. 的博客
02-16 621
Ref Kairouz, P., McMahan, H. B., Avent, B., Bellet, A., Bennis, M., Bhagoji, A. N., … & d’Oliveira, R. G. (2019). Advances and open problems in federated learning. arXiv preprint arXiv:1912.04977...
Advances_and_Open_Problems_in_Federated_Learning.pdf
07-24
Advances and Open Problems in Federated Learning
联邦学习入门（一）-Advances and Open Problems in Federated Learning详解
wenzhu2333的博客
07-27 7884
本文主要是联邦学习的入门级笔记，主要参考了论文Advances and Open Problems in Federated Learning和微众银行的联邦学习白皮书，笔者作为初次接触该领域的小白，对感觉必要的知识做一个总结和记录。 本文首发于我的个人博客 原文请点击这里！！！！！ 定义 联邦学习（Federated Learning简称FL）是一种机器学习设置，其中多个实体（客户端）在中央服务器或服务提供商的协调下协作解决机器学习问题。每个客户的原始数据都存储在本地，并且不会交换或转移；从而代替了用于
联邦学习研究综述【联邦学习】
最新发布
eternity_memory的博客
08-04 1392
联邦学习综述
Advances and Open Problems in Federated Learning.pdf
05-13
Advances and Open Problems in Federated Learning。Federated learning (FL) is a machine learning setting where many clients (e.g. mobile devices or whole organizations) collaboratively train a model under the orchestration of a central server (e.g. service provider), while keeping the training data decentralized. FL embodies the principles of focused data collection and minimization, and can mitigate many of the systemic privacy risks and costs resulting from traditional, centralized machine learning and data science approaches. Motivated by the explosive growth in FL research, this paper discusses recent advances and presents an extensive collection of open problems and challenges.
Advances and Open Problems in Federated Learning
weixin_44734484的博客
03-04 491
Advances and Open Problems in Federated Learning解读
联邦学习笔记（四）《Advances and Open Problems in Federated Learning》
Apiao9的博客
03-15 1434
目录 4.1 需要提供保护的各种威胁模型 4.2 核心工具和技术 4.3 可信服务器存在时，对抗客户端/分析师隐私保护方面存在的问题和挑战 4.4 针对恶意server的保护 4.5 user perception 联邦学习将整个机器学习工作流程模块化分解。原始数据不离开设备——数据最小化，只将模型更新（梯度更新）发送至中央服务器临时保存，提供一定程度的隐私。 隐私系统期望属性：所有参与者的易用性、最终用户体验的质量和公平性、通信和计算资源的明智使用、抵御攻击和失败的能力等等。 4.1 需要提
联邦学习Advances and Open Problems in Federated Learning
01-09
联邦学习是一种机器学习设置，其中多个客户端（例如移动设备或整个组织）在中央服务器（例如服务提供商）的协调下协同训练模型，同时保持训练数据的去中心化。联邦学习体现了有针对性的数据收集和最小化的原则，可以...
Advances and Open Problems in Federated Learning 总结翻译
01-08
摘要 联邦学习(FL)是一种机器学习设置，在这种设置中，许多客户(例如移动设备或整个组织)在中央服务 器(例如服务提供商)的协调下协作地训练模型，同时保持训练数据分散。FL体现了集中数据收集和最 小化的原则，可以...
Federated Learning 入门论文整理.doc
03-10
联邦学习综述论文简单总结（免费）。如何允许多个数据所有者协作培训和使用共享的预测模型，同时保持所有本地培训数据的私密性?传统的机器学习方法需要将所有数据集中在一个位置，通常是一个数据中心，这很可能违反了用户隐私和数据保密性方面的法律。目前，世界上许多地方要求科技公司根据用户隐私法仔细对待用户数据。
Federated Learning.zip
03-04
新手入门推荐多篇综述文章，与一些经典文章。免费xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
learning Open CV 中英文
12-30
Open CV 英文版和中文版都在其中，需要请下载
【联邦学习】综述《Advances and Open Problems in Federated Learning》论文结构
热门推荐
一定要站在自己热爱的生活里闪闪发光
12-14 2万+
该文章由来自麻省理工、斯坦福、加州大学、南阳理工、谷歌等25所国际知名高校(机构)的58位学者联合发表，文章源于2019年6月17日至18日在谷歌西雅图举办的联邦学习学习和分析研讨会，共105页，调研了438篇文献，讲解了最新的联邦学习进展，并提出大量开放型问题。 先把文章的结构图放在这里，后面陆续更新论文细节。 ...
Advances and Open Problems in Federated Learning——4.Preserving the Privacy of User Data翻译
qq_42141843的博客
04-20 755
4.Preserving the Privacy of User Data 机器学习的工作流程需要许多不同功能的共同参与。比如说，用户可能会在与他的其他设备交互的过程中产生训练数据，一个机器学习训练程序会从这些数据中提取人机交互的模式（比如说训练模型的参数的形式），机器学习的工程师或者是算法分析师可能会评估训练模型的质量，并最终把这些模型部署到最终用户的设备上，为了支持特定的用户体验。 在一种理想的情况下，系统中的每个角色仅仅能学习到自己所需要的信息。比如说，如果为了授权将模型部署到最终用户，一个分析师仅仅
联邦学习进展和问题Advances and Open Problems in Federated Learning
qq_42328228的博客
01-08 1137
Advances and Open Problems in Federated Learning联邦学习 联邦学习 两种联邦学习变体： 跨设备cross-device FL，主要应用于数字产品； 跨企业cross-silo FL；主要应用于再保险财务风险预测、药物发现、电子健康记录挖掘[162]、医疗数据分割、智能制造等。 Cross-device FL特征与挑战： 中心服务器仅负责协调训练，理论上对用户数据一无所知，存在半可信或恶意安全模型假设； 用户节点数量庞大，如何高效实现大批量用户并行
最详细完整版综述论文翻译“Advances and Open Problems in Federated Learning”
weixin_45732058的博客
08-11 2028
联邦学习的动机与相关的研究领域密切相关。完全去中心化学习（第2.1节）消除了需要中央服务器协调整个计算的需求。除了算法上的挑战，实现这一想法的实际问题还包括需要什么形式的可信中央权威来设置任务。跨数据源联邦学习（第2.2节）允许解决不同类型的建模约束问题，例如数据按示例和/或特征进行分割，并在为客户端制定正式隐私保证或激励机制时面临不同的关注点。分割学习（第2.3节）是一种将模型的执行分割在客户端和服务器之间的方法。它可以提供不同的总体通信约束选项，但仍缺乏关于何时传输的值会透露敏感信息的详细分析。
advances and open problems in federated learning
06-28
### 回答1： 联邦学习中的进展和开放问题包括以下几个方面： 1. 安全性：如何保证在联邦学习过程中数据的隐私和安全性，防止数据泄露和恶意攻击。 2. 通信效率：如何在保证数据隐私的前提下，提高联邦学习的通信效率，减少通信成本和延迟。 3. 模型聚合：如何在联邦学习中进行模型聚合，使得各个参与方的模型能够合理地融合，提高模型的准确性和泛化能力。 4. 联邦学习框架：如何设计更加通用和灵活的联邦学习框架，以适应不同的应用场景和数据类型。 5. 联邦学习应用：如何将联邦学习应用到更多的实际场景中，如医疗、金融、物联网等领域，解决实际问题。 ### 回答2： 联邦学习是一种新兴的分布式学习方式，它可以在保护隐私的前提下，通过联合多个参与者的本地数据来训练机器学习模型。当前，联邦学习面临着一些挑战和未解决问题，以下是联邦学习中不断发展的前沿和未解决的问题： 1. 隐私保护：隐私保护一直是联邦学习的核心问题，尤其是数据安全性和安全性是实验室研究和实际企业需求的主要问题，寻找能够在不破坏隐私的情况下改进联邦学习的方法是十分必要的。 2. 模型聚合：在联邦学习中，各个参与设备的本地模型都需要被集成起来，进行全局模型的更新。如何有效地聚合来自不同设备的模型参数是一个重要的问题，目前常用的方法是简单地平均模型参数，但这种方法可能会受到数据分布不均衡的影响，并且权重配置方面面临挑战，所以应该针对现有的问题考虑更好的聚合算法。 3. 非IID数据：一个常见的情况是存在非独立的数据来源，这种情况下，数据分布可能会因为在不同设备上出现了较大变化，从而影响联合学习的性能。处理非独立同分布数据的联邦学习算法是一个挑战，需要通过更好地定义合适的数据模型，或者使用分层或聚合方法，才能提高模型的泛化能力。 4. 模型安全性：在联邦学习过程中，参与者将模型参数传输到中央服务器中，这可能会受到安全问题的影响。为了保持安全，需要使用更好的隐私保护技术和安全学习算法来保护参与者的数据和模型。 5. 扩展性：联邦学习模型需要大量的计算能力和通信带宽。随着参与者数量的增加，交通瓶颈和计算压力可能会成为瓶颈，因此，需要开发高效的算法以实现扩展性。 总之，在联邦学习领域存在许多挑战和问题，同时也有许多发展前景和潜力，只有通过不断的研究和发展，联邦学习的应用才能为更广泛的场景提供价值。 ### 回答3： 联邦学习是一种新型的机器学习方法，在保障数据隐私和数据安全的前提下，利用分散在不同地方的终端设备与机器学习模型进行协作学习。和传统的机器学习方法相比，联邦学习弥补了中央服务器需要收集所有数据的缺陷，使得隐私数据在不暴露的情况下可以让多个节点进行共享学习，具有广泛的应用价值。但是随着应用场景的不断拓展和实践的不断探索，《联邦学习》也面临着很多开放性的问题和挑战。 1. 如何保证数据隐私和安全 联邦学习的最大优势就是在保护数据隐私和数据安全的基础上完成机器学习任务，因此，研究如何更好地保护数据隐私和安全成为了联邦学习研究的关键问题。在当前的模型训练过程中，大多数方案利用加密的方式来保证数据安全，但是加密后的计算过程会增加计算和通讯的负载，有可能会导致学习效率变低。 2. 如何解决异构设备之间的差异 联邦学习的另一个难点就是异构设备的差异性问题。由于参与训练的设备数量较多，设备类型也有很大的差异，这就导致了设备之间的异构性，如何在异构设备之间实现高效的模型训练成为一个需要解决的问题。 3. 模型的选择和设计 在联邦学习过程中，模型的选择和设计对于整个模型训练的效果也有着非常大的影响，如何有效地选择模型并进行合适的设计，是联邦学习领域需要探讨的方向之一。 4. 增量式学习的实现 联邦学习中也存在一个非常重要的问题，就是如何支持增量式学习。大多数情况下，模型的升级需要重新训练，如果训练数据无法全部集中到一个地方，则需要修改算法来解决这个问题。 总之，随着联邦学习的进一步发展，应用场景的拓展，联邦学习面临的问题也将更加的复杂多样。虽然当前已有的技术手段已经获得了非常好的效果，但是我们仍需要更多的研究和创新来解决新的难题，为这项技术的长足发展提供支撑。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值