联邦学习数据投毒 - Data Poisoning Attacks Against Federated Learning Systems

WBZhang2022

已于 2023-04-15 14:40:34 修改

阅读量1.1k

点赞数

分类专栏： ▶ Trustworthy AI 文章标签：机器学习人工智能

于 2023-04-14 23:47:09 首次发布

本文链接：https://blog.csdn.net/weixin_44944722/article/details/130142351

版权

13 篇文章 25 订阅 ¥19.90 ¥99.00

订阅专栏

这篇论文探讨了针对联邦学习系统的数据投毒攻击，特别是标签翻转策略。研究发现，即使少量恶意客户端也能显著影响全局模型的性能，降低测试准确率和类别召回率。攻击效果受恶意客户端比例、类别转换选择以及参与训练的时机等因素影响。防御策略包括对模型更新进行PCA降维分析，以区分恶意和良性客户端。

摘要由CSDN通过智能技术生成

论文笔记 - Data Poisoning Attacks Against Federated Learning Systems

论文标题	Data Poisoning Attacks Against Federated Learning Systems
论文作者	Vale Tolpegin, Stacey Truex, Mehmet Emre Gursoy, Ling Liu
科研机构	Georgia Institute of Technology
发表会议	ESORICS 2020
摘要概括	本篇论文首次提出联邦学习有目标投毒攻击。具体而言，在联邦学习系统中，存在少量的恶意客户端发送源于错误标注数据的模型更新以实现毒化全局模型。除此之外，还研究了攻击性能的持久性以及恶意客户端的占比对攻击性能的影响。
开源代码	https://github.com/git-disl/DataPoisoning_FL

在联邦学习系统中考虑一种场景：假设一部分客户端本身具有恶意行为或者被攻击者控制。这可能会导致这些客户端本地数据库存在错误标注的毒样本。在没有第三方可信机构验证的

了解本专栏

关注

专栏目录