论文笔记 - Neurotoxin: Durable Backdoors in Federated Learning

已于 2023-03-20 23:20:15 修改
阅读量352 收藏
点赞数
分类专栏： ▶ Trustworthy AI 文章标签： 论文阅读 人工智能
于 2023-03-20 23:18:35 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44944722/article/details/129657806
版权

Neurotoxin: Durable Backdoors in Federated Learning

1. 基本信息

论文标题 Neurotoxin: Durable Backdoors in Federated Learning
论文作者 Zhengming Zhang, Ashwinee Panda, Linyue Song, Yaoqing Yang, Michael W. Mahoney, Joseph E. Gonzalez, Kannan Ramchandran, Prateek Mittal
科研机构 Southeast University, Princeton University, University of California at Berkeley
会议年份 ICML 2022
摘要概括 联邦学习的客户端本地数据不共享的性质，是联邦学习系统容易受到后门攻击的重要原因。在前人提出的联邦学习后门攻击中，当恶意用户停止上传恶意模型更新时，随着迭代轮数增强，后门触发器的作用会削弱。本篇论文围绕者上述问题，提出Neurotoxin算法，该算法有效解决了联邦学习后门攻击持久性问题
开源代码
了解本专栏 订阅专栏 解锁全文 超级会员免费看
WBZhang2022
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
订阅专栏
Neurotoxin
10-25
Neurotoxin
该停下来了！「IT'S TIME TO STOP!」-crx插件
03-11
是时候停止了吗？点击按钮找出。 警告：此扩展程序可能不适用于所有设备，对于给您带来的任何不便，我深表歉意，目前无法采取任何措施，但我正在努力寻找解决方法。 敬请关注！ 有时您不知道何时停止。 但是有了这个扩展，papa franku可以告诉您何时该停止。 按下按钮，他会给您一些很好的建议。 现在有多个剪辑！ 每个页面加载将随机抽取3个片段！ 现在，这些视频还与扩展程序打包在一起，而不是与远程网站打包在一起，因此它应该可以解决所有问题。 鸣谢：FilthyFrank-肮脏的坦率Walter Scitta-错误修复Neurotoxin101-截图更改日志：版本1.0：原始发行版1.0.5：将剪辑打包到扩展程序中以供离线使用。 版本1.0.6：全新剪辑版本1.0.7：错误修复-（感谢Walter Scitta）版本1.2.0：新图标和暂停的客户支持-将在开发再次开始时（很快）重新添加。 支持语言:English
IT'S TIME TO STOP!-crx插件
04-07
是时候停止了？点击按钮以查找。 警告：此扩展名可能无法在所有设备上运行，我为此带来的任何不便表示歉意，并且在此时没有太多可以执行此操作，但我正在努力寻找修复。敬请关注！有时你不知道什么时候停止。但是通过这个延伸，爸爸·克兰克可以告诉你什么时候停止。按下按钮，他会给你一些很好的建议。现在有多个剪辑！每个页面加载都将有3个随机剪辑！该视频现在也包含在扩展名中包装而不是远程网站，因此它应该解决任何问题。积分：污渍 - 是肮脏的弗兰克Walter Scitta - 错误修复neurotoxin101 - 截图更改日志：版本1.0：原始版本版本1.0.5：将剪辑打包为脱机使用。版本1.0.6：全新剪辑版本1.0.7：错误修复 - （归功于Walter Scitta）版本1.2.0：新图标和停止的客户支持 - 将在开发再次启动时将添加回来（很快）。 语言:English
READ-2318 FLAME Taming Backdoors in Federated Learning
m0_51638853的博客
03-13 352
本文使用了动态的聚类方法、动态设置梯度裁剪上限、动态设置噪声范围，从而实现了性能与安全性的权衡。聚类过程中，若所有聚类均小于客户端数量的一半，该如何处理。本文假设恶意客户端数量小于客户端总数的一半。
SpringMVC学习笔记（一）- 请求与响应
weixin_44944722的博客
08-11 183
SpringMVC学习笔记，在学习之前掌握搭建SpringMVC初始化工程的方法，其次掌握请求与响应的基本原理，学会请求参数设置的基本规则
【论文阅读笔记】Neurotoxin: Durable Backdoors in Federated Learning
leticia_m的博客
05-04 406
个人阅读笔记，如有错误欢迎指出
READ-2361 Neurotoxin: Durable Backdoors in Federated Learning
m0_51638853的博客
01-24 384
相比于PGD, Neurotoxin将中毒更新投影到良性更新不常使用的参数空间上，使得后门攻击的持久性更强。
【联邦学习】2022年CCF-A会议论文整理
qq_43691733的博客
04-18 1817
会议/期刊 论文 kdd2022 Collaboration Equilibrium in Federated Learning. kdd2022 Connecting Low-Loss Subspace for Personalized Federated Learning. kdd2022 Communication-Efficient Robust Federated Learning with Noisy Labels. kdd2022 FLDetector: Defen
论文阅读报告
mental的博客
06-23 915
后门特征描述： Benign models:良性模型； Backdoored models:后门攻击模型； Deviations of Backdoored models：后门模型的偏差； Gt−1G_{t-1}Gt−1​:上一轮局部模型和全局模型之间的偏差； W1,,W2,,W3,,W_{1}^{,},W_{2}^{,},W_{3}^{,},W1,​,W2,​,W3,​,:分别代表三种不同的后门攻击； 防御目标： 在FL环境下，能够有效缓解后门攻击的通用防御需要实现以下目标：（i）有效性：为了防止对手实
playlist-combinator:混淆用户和他们的播放列表的事情
06-01
播放列表组合器 一个 javascript 模块，用于在多个用户的音乐队列中轮换。用法运行此代码： var playlist = require ( '... addSong ( 'GLaDOS' , 'neurotoxin' )playlist . addSong ( 'GLaDOS' , 'Caroline' ) 内部：
FL Backdoor Defense (Ⅰ) - FLAME: Taming Backdoors in Federated Learning
weixin_44944722的博客
04-27 776
【博主前言】：本篇论文提出了一种抵御联邦学习后门攻击的通用防御算法，被USENIX Security会议录用，四大安全顶会里的质量是非常高的，特别是方法上的创新，实验的充分性以及文章的写作结构都是非常清晰明了，给人一种启发式的感觉
论文阅读：The Unreasonable Ineffectiveness of the Deeper Layers 层剪枝与模型嫁接的“双生花”
温染的笔记
05-10 737
作者实证研究了针对流行的开放式预训练 LLM 系列的简单层修剪策略，发现在不同的 QA 基准上，直到去掉一大部分（最多一半）层（Transformer 架构）后，性能的下降才会降到最低。为了修剪这些模型，作者通过考虑各层之间的相似性来确定要修剪的最佳层；然后，为了“治愈”损伤，进行了少量的微调。特别是 PEFT 方法，尤其是量化和低秩适配器（QLoRA），这样每个实验都可以在单张 A100 GPU 上完成。
【论文笔记】利用扩散模型DDPM做变化检测change detection
m0_61899108的博客
05-12 983
去噪扩散模型DDPM去年开始在各种视觉任务取得惊人的效果，变化检测领域也不例外，本文介绍两篇关于如何使用扩散模型实现变化检测的论文。第一篇做法较为自然，先利用遥感数据预训练DDPM，然后将预训练好的网络当作变化检测任务的特征提取器；第二篇则更有意思，不再进行像素分类，而是直接利用扩散模型生成变化图。
海洋环境保护论文阅读记录
qq_36980284的博客
05-13 719
海洋环境保护 论文1：Critical role of wave–seabed interactions in the extensive erosion of Yellow River estuarine sediments 波浪-海床相互作用在黄河河口广泛侵中的关键作用 estuatine 河口的，港湾的 erodibility侵蚀度 sediment erodibility 沉积侵蚀度 erosion侵蚀 结合实验室的侵蚀试验 turbidity 浊度、浑浊度 浑浊度急剧从50FTU增加到600-80
BakedSDF: Meshing Neural SDFs for Real-Time View Synthesis 论文阅读
气派飞鹰的博客
05-14 1104
是 Mildenhall 和 Barron 参与的工作（都是谷歌的），同时一作是 Lipman 的学生，VolSDF 的一作。本文引用了很多其他文章的方法，Mildenhall 和 Barron 等的论文Mip-NeRF 360，以及VolSDF的方法。采用了 Instant-NGP 为中介来学习处于顶点位置的参数然后再固定到顶点上。
点云分割论文阅读01--FusionVision
dc爱傲雪和技术
05-13 687
在计算机视觉领域，鉴于不同的环境条件和不同的物体外观所产生的固有复杂性，将先进技术集成到 RGB-D 相机输入的预处理中提出了重大挑战。因此，本文介绍了 FusionVision，这是一种适用于 RGB-D 图像中对象的鲁棒 3D 分割的详尽管道。传统的计算机视觉系统主要针对 RGB 相机，因此在同时捕获精确的物体边界和在深度图上实现高精度物体检测方面面临着局限性。为了应对这一挑战，FusionVision 采用了一种集成方法，将最先进的对象检测技术与先进的实例分割方法相结合。
论文阅读记录--关于水文系统的传递函数
qq_36980284的博客
05-13 876
地下水系统的响应的功率谱分析传递函数
【论文阅读——联邦学习场景下基于参与方贡献的激励机制】
最新发布
qq_45467608的博客
05-16 801
本文提出了一种基于公平性的联邦学习激励机制(FedFAIM)。
neurotoxin: durable backdoors in federated learning
09-15
神经毒素：联邦学习中的持久后门 联邦学习是一种将多个参与方的数据在本地进行训练和学习的机器学习方法。然而，近年来研究者们发现了其中一个潜在的风险，即利用神经毒素在联邦学习中创建持久的后门。...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值