READ-2301 DBA: Distributed Backdoor Attacks against Federated Learning

最新推荐文章于 2024-06-06 09:51:41 发布
最新推荐文章于 2024-06-06 09:51:41 发布
阅读量402 收藏 1
点赞数
分类专栏： FL Security 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51638853/article/details/128572556
版权
DBA是一种针对联邦学习的分布式后门攻击方法，它将全局触发器分解为局部触发器，分别嵌入恶意参与者的数据集中，增强了攻击的隐蔽性和持久性。与集中式后门攻击相比，DBA在不影响全局模型在正常数据上的性能情况下，能在注入后门的数据上实现高攻击准确率。文章还探讨了触发器大小、间隔、位置以及投毒比例等因素对攻击效果的影响。
摘要由CSDN通过智能技术生成

READ-2301 DBA: Distributed Backdoor Attacks against Federated Learning

论文名称DBA: Distributed Backdoor Attacks against Federated Learning
作者Chulin Xie, Keli Huang, Pin-Yu Chen, Bo Li
来源ICLR 2020
领域Machine Learning – Federal learning – Backdoor Attacks
问题已有的后门攻击将相同的全局触发器嵌入到所有攻击者数据中，不完全符合FL分布式的性质，属于集中式的后门攻击
方法提出一种符合FL分布式性质的攻击框架，DBA将全局触发器模式分解为本地形式，并分别嵌入到恶意参与者的数据集中，比集中式后门攻击更加隐蔽并且影响更加持久
创新分布式后门攻击

阅读记录

一、DBA框架
  1. 攻击模型：攻击者可以完全控制本地更新过程（如设置后门数据以及本地更新的超参数），但无法影响服务器（如聚合规则与更新过程）
  2. 攻击目标：使本地模型同时适合主要任务和后门任务，让全局模型在没有扰动的数据上表现正常，但在注入后门的数据拥有较高的攻击准确率
    （1）集中式后门攻击者本地训练目标函数
    1

R：将干净数据转换为后门数据
φ = {TS, TG, TL}：R所需参数，包括触发器大小、触发器间隔、触发器位置
2

D：客户端数据集，包括S_poi和S_cln，且二者无交集
S_poi：中毒数据集
S_cln：干净数据集
τ：目标标签
（2）分布式后门攻击者本地训练目标函数
DBA的攻击目标：在使用全局触发器攻击全局模型时，和集中式攻击有相同的效果
local trigger：部分触发器
global trigger：local trigger的集合
3

Φ：全局触发器，Φ_i为全局触发器使用分解策略获得的局部触发器
O：对于本地触发器的几何分解策略
γ：在聚合前对更新的操纵程度

二、对比：DBA & CBA

4

  1. 集中式后门攻击：使用全局触发器进行攻击
  2. 分布式后门攻击：使用全局触发器的一部分进行攻击
  3. 性能：尽管DBA没有施加全局后门，但攻击效果远优于集中式后门攻击
三、DBA的影响因素；

表格数据中特征重要性的触发属性：
5

  1. 触发器大小（TS）：一个本地分布式触发器的像素个数
  2. 触发器间隔（TG）：本地触发器间上下左右的距离
  3. 触发器位置（TL）：触发器距离图片左上角的距离
  4. 投毒扩大因子（γ）：攻击者扩大恶意模型权重
    6

X：本地模型
G：全局模型

  1. 投毒比例（r）：每个batch中投毒样本的比例，r越大，攻击效果越强，但容易损害模型性能
  2. 投毒间隔（I）：两次投毒之间的通信间隔
  3. 数据分布：non-iid的迪利克雷分布，使用超参数α生成不同的数据分布

总结

本文提出了一种分布式的后门攻击，攻击时将全局的触发器进行拆分，恶意客户端将全局触发器划分为局部触发器，将局部触发器嵌入本地客户端，再进行训练。相比集中式后门攻击，DBA拥有更强的攻击性。

下一步学习计划

之后将继续阅读防御后门攻击的相关论文

精读笔记 - DBA: Distributed Backdoor Attacks Against Federated Learning
weixin_44944722的博客
04-06 676
【博主前言】：本篇博客是一篇精读文章，重点不是在原理的理解，而是联邦学习后门攻击实验的设计方法，具体描述了验证联邦学习后门攻击算法有效性如何设计有说服力的实验
（补充及更新）FLTrust: Byzantine-robust Federated Learning via Trust Bootstrapping
qq_41940837的博客
06-06 1841
无
《DBA: DISTRIBUTED BACKDOOR ATTACKS AGAINST FEDERATED LEARNING》阅读笔记
Yale的博客
01-20 3181
DBA: DISTRIBUTED BACKDOOR ATTACKS AGAINST FEDERATED LEARNING ** 本文发在ICLR 2020，针对联邦学习进行的后门攻击。其提出的方案针对传统的针对FL的攻击而言更隐蔽、持续、也更有效。** Abstract 联邦学习可以聚和由不同参与方提供的信息来训练得到一个更好的模型，它分布式学习的特点导致其存在一个内生问题：不同参与方提供的各种各样的数据可能会带来新的漏洞。 除了最近针对联邦学习的中心化的后门攻击（在训练期间每一方都嵌入一个全局trigge
（翻译）DBA: DISTRIBUTED BACKDOOR ATTACKS AGAINST FEDERATED LEARNING
11-27 1446
（翻译）DBA: DISTRIBUTED BACKDOOR ATTACKS AGAINST FEDERATED LEARNING
DBA: Distributed Backdoor Attacks against Federated Learning论文笔记
m0_45171384的博客
12-30 992
提出一种分布式后门攻击(Distributed Backdoor Attacks)—— 一种充分利用联邦学习的分布式特性而开发的攻击。DBA在不同数据集上对联邦学习攻击的持久性、隐蔽性和攻击成功率都高于集中式后门攻击。
READ-2302 DBA: Distributed Backdoor Attacks against Federated Learning
m0_51638853的博客
02-24 426
本文提出了一种分布式的后门攻击，攻击时将全局的触发器进行拆分，恶意客户端将全局触发器划分为局部触发器，将局部触发器嵌入本地客户端，再进行训练。相比集中式后门攻击，DBA拥有更强的攻击性。
【论文】【CwMed】Byzantine-Robust Distributed Learning: Towards Optimal Statistical Rates
sun_5flower的博客
12-20 1587
Byzantine-Robust Distributed Learning: Towards Optimal Statistical Rates 摘要： 1、提出一个分布式优化算法健壮性和最佳性能的证明方式； 2、基于证明方式提出了两种满足鲁棒性的分布式梯度下降算法（基于中位数或基于修剪后的平均操作）； 3、为增强通信效率，提出一个基于中位数的仅使用一轮通信的分布式算法，并证明了其鲁棒性，并证明在强凸二次损失中，该算法与鲁棒分布式梯度下降算法具有相同的最优错误率。 背景介绍： 1、1982年Lamport提
最新论文笔记(+21)：Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems/ TIFS2022
cryptocxf的博客
10-11 8437
Privacy-Preserving Byzantine-Robust Federated Learning via Blockchain Systems 可译为“利用区块链实现隐私保护的拜占庭鲁棒性联邦学习”这篇是今年八月份被TIFS2022（CCF A）收录的文章，写的利用全同态加密和区块链技术解决联邦学习中隐私问题和可信问题（虽然区块链仅仅只是存储的作用，也稍微提了一下）。精读完这篇文章，整体感觉还不错，毕竟是CCF A类期刊。下面是自己读后感，根据自己的语言来做了一些笔记，也相当于回顾。
【论文阅读】《How To Backdoor Federated Learning》阅读笔记
bravozyz的博客
02-04 1816
大萨达
Federated Learning 联邦学习概述及最新工作
Always_ease的博客
06-15 1610
一、目前主流的联邦学习应用场景 Cross-silo FL Cross-device FL Setting Training a model on siloed data. Clients are from different organizations (e.g. medical or financial) or geo-distributed datacenters. The cli.
【论文阅读】DBA: DISTRIBUTED BACKDOOR ATTACKS AGAINST FEDERATED LEARNING
qq_56483157的博客
10-17 1123
后门攻击旨在通过注入对抗性触发器来操纵训练数据的子集以便在被篡改的数据集上训练的机器学习模型将在嵌入相同触发器的测试集上做出任意（有针对性的）错误预测。背景：联邦学习 (FL) 的分布式学习方法和各方固有的异构数据分布可能会带来新的漏洞。相对于集中后门攻击（每一方在训练期间嵌入相同的全局触发器），作者提出了分布式后门攻击 (DBA)——这是一种通过充分利用 FL 的分布式特性开发的一种新颖的威胁评估框架。DBA。
DBA: DISTRIBUTED BACKDOOR ATTACKS AGAINST FEDERATED LEARNING 论文阅读笔记
m0_53662700的博客
01-16 1021
联邦学习被提出来解决训练机器学习模型而不能直接访问各种训练数据的问题，特别是对于隐私敏感的任务。尽管FL能够聚合不同方提供的分散信息来训练更好的模型，但分布式学习方法以及跨不同方的非独立同分布数据可能无意中为新的攻击提供了场所。特别是后门攻击。
探秘分布式背门攻击：DBA项目解析与应用推广
最新发布
gitblog_00088的博客
06-06 486
探秘分布式背门攻击：DBA项目解析与应用推广 去发现同类优质开源项目:https://gitcode.com/ 在当今的云计算和边缘计算时代，联邦学习作为一种新兴的机器学习范式，正因其能保护数据隐私而受到广泛关注。然而，安全威胁也随之而来。今天，我们要深入探讨的是一个面向学术界和工业界的重要开源项目——DBA（Distributed Backdoor Attacks）。该项目基于2020年ICLR...
PostgreSQL 事件触发器
热门推荐
luojinbai的专栏
05-12 1万+
创建触发器的步骤分两步，a. 创建触发器函数，b. 编写触发语句；创建事件触发器的步骤也是一样，分为两步。1. 简介： 　　事件触发器为全局触发器，影响范围为指定的某个库，并且可以捕获 DDL 事件，而传统的触发器是基于表级别，并且只能捕获 DML 事件；事件触发器是PostgreSQL 9.3新增的功能。2. 语法：postgres=# \h create event trigger Comma
7篇ICLR论文，遍览联邦学习最新研究进展
喜欢打酱油的老鸟
05-03 4122
2020-04-30 13:10:54 机器之心分析师网络 作者：仵冀颖 编辑：H4O 本篇提前看重点关注 ICLR 2020 中关于联邦学习（Federated Learning）的最新研究进展。 2020 年的 ICLR 会议原计划于4 月 26 日至 4 月 30 日在埃塞俄比亚首都亚的斯亚贝巴举行，这本是首次在非洲举办的顶级人工智能国际会议，但受到疫情影响，ICL...
【翻译】How to Backdoor Federated Learning
Antrn
05-24 3288
联邦学习（Federated Learning）是一种新兴的人工智能基础技术，在 2016 年由谷歌最先提出，原本用于解决安卓手机终端用户在本地更新模型的问题，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。其中，联邦学习可使用的机器学习算法不局限于神经网络，还包括随机森林等重要算法。联邦学习有望成为下一代人工智能协同算法和协作网络的基础。本文是来自arxiv2018的一篇论文，讲解如何后门攻击联邦学习。
Federal Learning中的隐私问题
HizT_1999的博客
09-25 863
Part2：Privacy of Federal Learning:FL中的隐私保护问题 1.Secure Multi-party Computation 简称SMC，安全多方计算。 图片.png 大致模型如上图所示，含义为：由多方提供的数据在加密的条件下经过网络训练时，既不影响结果也能保证数据安全。 在这里我们看一个经典的SMC模型： 姚式混淆电路 图片...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值