最新论文笔记(+18)：Threats to Federated Learning: A Survey

已于 2025-01-22 16:07:05 修改
阅读量6.2k 收藏 23
点赞数 3
分类专栏： 联邦学习 论文笔记 文章标签： 深度学习 人工智能 联邦学习 安全与隐私
于 2022-02-22 17:39:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/A33280000f/article/details/123049926
版权
这篇2020年的arXiv论文探讨了联邦学习中的隐私威胁，重点关注投毒攻击和推理攻击。它介绍了威胁模型，包括内部攻击、半诚实和恶意环境，以及训练阶段的攻击。文章详细解释了数据投毒、模型投毒、GAN攻击、成员推理和属性推断等，并对未来的研究方向进行了讨论，如维数灾难、VFL威胁、异构架构的FL和去中心化学习的挑战。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Threats to Federated Learning: A Survey (联邦学习面临的威胁：一项调查）

本篇文章是2020年发表在arXiv上的论文，介绍了联邦学习存在的隐私威胁问题，是一篇还不错的综述论文，对理解投毒攻击和推理攻击有很大帮助，以下是我个人看论文的重点记录，可能也有理解不对的地方，建议看原文！

文章目录预览

一、背景与介绍

通过摘要可以得知，由于传统机器学习模型集中训练方法面临强大的隐私挑战，联邦学习可能是一种解决方案。但是，现有的联邦学习协议已经证明存在漏洞，攻击者可以利用这些漏洞破坏数据隐私。因此，未来联邦学习算法设计对隐私保护的影响是至关重要的。本篇文章主要介绍了联邦学习的概念，然后提供了一个独特的分类方法，覆盖了威胁模型和联邦学习的两种主要攻击：投毒攻击和推理攻击。并在最后讨论了未来的研究方向。

根据数据特征和数据样本在参与者中的分布情况，联邦学习分为水平联邦学习（HFL）和垂直联邦学习（VFL）和联邦迁移学习（FTL）。进一步根据参与者的数量、联邦学习训练的参与等级和技术能力，又将HFL分为HFL对企业（H2B），HFL对消费者（H2C)。
在这里插入图片描述

  • H2B模式，少数参与者，经常被选中，参与者具有显著的计算能力和复杂的技术能力。
  • H2C模式，成千上万参与者，每一轮训练只选择其中一个子集，计算能力普遍不高。

1.2 联邦学习中的隐私泄露

  • 训练过程中交流模型更新仍然可以揭示敏感信息。
  • 即使是原始梯度的一小部分，也可能揭示本地数据的信息。
  • 恶意攻击者可以在几次迭代中安全窃取梯度中的训练数据。
    联邦学习协议设计可能包含两方面的漏洞：
  • （1）潜在的恶意服务器，可以随着时间的推移观察个人更新，篡改训练过程，并控制参与者对全局参数的视图；
  • （2）任何可以观察全局参数并控制其参数上传的参与者。例如，恶意参与者故意改变输入，或在全局模型中引入隐蔽的后门。

本文调查了对联邦学习威胁的最新进展，仅关注内部对联邦学习系统发起的两种特定威胁：

  • （1）试图阻止一个模型被学习的投毒攻击，或使模型产生比敌手更可取的推论
最低0.47元/天 解锁文章
《Unlearning Backdoor Attacks in Federated Learning》论文阅读笔记
ZW_WY的博客
12-26 949
method to（这篇文章利用知识蒸馏来恢复Unlearning后的模型性能，如何用的呢？
【论文阅读】Magneto: A Step-Wise Approach to Exploit Vulnerabilities in Dependent Libraries via LLM-Empowe
最新发布
网络空间安全|人工智能|计算机科学
11-14 2520
Magneto通过结合LLM的语义理解和静态、动态分析技术，解决了传统方法在复杂场景下效果不佳的问题。实验结果表明，Magneto在生成漏洞利用代码方面具有显著的优势，特别是在处理复杂调用链时。未来的工作将进一步扩展Magneto的应用范围，支持更多编程语言。
Federated Learning 入门论文整理.doc
03-10
联邦学习综述论文简单总结（免费）。如何允许多个数据所有者协作培训和使用共享的预测模型，同时保持所有本地培训数据的私密性?传统的机器学习方法需要将所有数据集中在一个位置，通常是一个数据中心，这很可能违反了用户隐私和数据保密性方面的法律。目前，世界上许多地方要求科技公司根据用户隐私法仔细对待用户数据。
学习笔记 | Threats to Federated Learning-A Survey
freya0112的博客
03-24 599
摘要 文章意图让研究者意识到联邦学习中隐私保护的重要性，并对攻击进行分类： poisoning attacks投毒攻击 inference attacks推断攻击 引言 联邦学习的分类 horizontally federated learning (HFL)：数据有相同的特征但用户不同。数据集往往很小，所以一个数据被反复训练的概率是很低的，它计算能力有限、技术能力较低。 vertically federated learning (VFL)：数据有部分重叠，但特征空
7篇ICLR论文，遍览联邦学习最新研究进展
喜欢打酱油的老鸟
05-03 4226
2020-04-30 13:10:54 机器之心分析师网络 作者：仵冀颖 编辑：H4O 本篇提前看重点关注 ICLR 2020 中关于联邦学习（Federated Learning）的最新研究进展。 2020 年的 ICLR 会议原计划于4 月 26 日至 4 月 30 日在埃塞俄比亚首都亚的斯亚贝巴举行，这本是首次在非洲举办的顶级人工智能国际会议，但受到疫情影响，ICL...
005 Threats to Federated Learning（便于寻找：攻击模型）
Uzz_yuzaizai的博客
05-31 369
传统的集中式机器学习无法支持这种无处不在的部署和应用，这是由于基础设施的缺陷，如有限的通信带宽、间歇性的网络连接、严格的网络约束。 分类：水平（HFL）、垂直（VFL）、迁移（FTL） 水平联邦学习可以分为商业（H2B）和消费者（H2C） H2B参与者通常很少，可以经常被选择在联邦学习中被培训，具有显著的计算能力和复杂的技术能力。 H2C有数千甚至数百万的潜在参与者，在每一轮训练中，只选择了其中一个子集。因为他们的数据集往往很小，所以参与者被反复选中参加联邦学习训练的概率很低。通常...
【论文阅读】A survey on federated learning
qq_56483157的博客
09-06 448
联邦学习（Federated Learning）是一种多个客户端协作解决机器学习问题的设置，由中央汇聚器进行协调。这种设置还允许训练数据分散存储，以确保每个设备的数据隐私。联邦学习遵循两个主要思想：本地计算和模型传输，从而减少了传统集中式机器学习方法带来的一些系统隐私风险和成本。客户端的原始数据存储在本地，不可交换或移动。通过应用联邦学习，每个设备使用本地数据进行本地训练，然后上传模型到服务器进行汇聚，最后服务器将模型更新发送给参与者以实现学习目标。为了提供一份全面的调查，促进该领域的潜在研究，我们从五个方
Federated-Learning:联邦学习
05-17
Federated Learning 人工智能（Artificial Intelligence, AI）进入以深度学习为主导的大数据时代，基于大数据的...Threats to Federated Learning: A Survey Survey of Personalization Techniques for Federated Lear
改善Web应用程序安全性：威胁和对策Improving Web Application Security: Threats and Countermeasures
11-15
在.NET应用程序中实现基本安全性原则的权威指南。 本指南可帮助您设计，构建和配置具有抗黑客攻击能力的Web应用程序，以减少成功攻击的可能性。
【论文笔记】A survey on federated learning （综述）
LOG_IN_ME的博客
04-15 1387
Author Chen Zhang, Yu Xie, Hang Bai, Bin Yu, Weihong Li, Yuan Gao Keywords Federated learning; Privacy protection; Machine learning Abstract 联邦学习是在一个中央聚合器的协调下多客户协作解决机器学习问题的机制。它还允许数据分散训练以确保每个设备的数据隐私。联邦学习基于两个主要思想：本地计算、模型传输，减少了一些由传统的集中式机器学习方法带来的系统性的...
federated-learning:关于联邦学习的所有内容（论文，教程等）-联邦学习
05-13
联邦学习 Federated Learning Everything about federated learning. Your contribution is highly valued! 关于联邦学习的资料，包括：介绍、综述文章、最新文章、代表工作及其代码、数据集、论文等等。 欢迎一起贡献！ 目录 1. 教程 Tutorial 文字 PPT (AAAI-19) (AAAI-19) 视频 GDPR, Data Shortage and AI (AAAI-19 Invited Talk) 新闻 2019/02/09 谷歌发布全球首个产品级移动端分布式机器学习系统，数千万手机同步训练 2. 相关论文 Related Papers 综述与介绍 Survey And Introduction arXiv 201912 - Advances and Open Problems in Fede
联邦半监督学习综述（A Survey towards Federated Semi-supervised Learning）.pdf
02-28
人工智能(AI)的成功应该在很大程度上归功于丰富数据的可获得性。然而，实际情况并非如此，行业中的开发人员常常面临数据不足、不完整和孤立的情况。因此，联邦学习被提议通过允许多方在不显式共享数据的情况下协作构建机器学习模型，同时保护数据隐私，来缓解这种挑战。
联邦学习论文整理
weixin_43773486的博客
01-14 2609
部分联邦论文整理-仅供参考-附其他人的整理工作-持续更新..
A Survey on Federated Learning Systems- Vision, Hype and Reality for Data Privacy and Protection
甜瓜出逃中的博客
04-30 2106
综述文献：A Survey on Federated Learning Systems- Vision, Hype and Reality for Data Privacy and Protection 部分知识整理 文献总结了联邦学习系统的特点和分类。 机器学习算法需要大量数据，单组织数据无法训练高质量模型。由于政策法规（数据保护条例）限制，不同组织的数据隔离，形成数据孤岛（data islan...
最新最全论文合集——联邦学习
AI_Conf的博客
01-26 686
AMiner平台（https://www.aminer.cn）由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。 必读论文：https://www.aminer.cn/topic 论文集地址：https:/.
【Paper Reading】Privacy-Preserving Aggregation in Federated Learning: A Survey
lunan的博客
10-02 1645
在联邦学习中的Aggregation方面的隐私保护问题相关的Survey
2022最新最全联邦学习（FL）论文、教程、博客和框架整理分享
lqfarmer的博客
11-26 1484
联邦学习（Federated Learning）是一种分布式机器学习技术 ，其核心思想是通过在多个拥有本地数据的数据源之间进行分布式模型训练，在不需要交换本地个体或样本数据的前提下，仅通过交换模型参数或中间结果的方式，构建基于虚拟融合数据下的全局模型，从而实现数据隐私保护和数据共享计算的平衡，即“数据可用不可见”、“数据不动模型动”的应用新范式。资源整理自网络，下载及获取见源地址：https://github.com/Echo-Wxl/Federated-Learning。
「联邦学习论文笔记05」Fair Resource Allocation in Federated Learning，这篇论文绝了，千万别错过！
wuxusanren的博客
01-27 1142
个人觉得联邦学习公平性很重要，这关乎客户端是否愿意参与、联邦学习能否可持续发展壮大，每个客户端都是自利的，“蛋糕“分不好，就算其他步骤优化的再牛逼，人家不愿意参加，你没辙啊
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值