精读笔记 - How to backdoor Federated Learning

已于 2023-04-10 13:46:50 修改
阅读量611 收藏 1
点赞数
分类专栏： ▶ Trustworthy AI 文章标签： 人工智能 深度学习
于 2023-03-10 16:02:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44944722/article/details/129416834
版权

文章目录

精读笔记 - How to backdoor Federated Learning

1. 基本信息

论文标题 How to backdoor Federated Learning
论文作者 Eugene Bagdasaryan, Andreas Veit, Yiqing Hua, Deborah Estrin, Vitaly Shmatikov
科研机构 Cornell University
会议年份 AISTATS 2020
开源代码 https://github.com/ebagdasa/backdoor_federated_learning
摘要概括 在这项工作中，作者发现联邦学习相比于在本地数据集投毒，其更加容易被模型投毒攻击。即一个恶意用户能够使用模型篡改的方式植入后门到联邦学习系统中。（如：修改图像分类器目的是能够让拥有特定特征的图像错误地分类为攻击者选择的目标类，或者打字补全能够错误地补全成攻击者选择的词）这些攻击可以是单个恶意用户进行攻击，也可以是多个恶意用户联合一起攻击。作者通过实验得出两个结论：采用模型替
了解本专栏 订阅专栏 解锁全文 超级会员免费看
WBZhang2022
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
input-aware-backdoor-attack-release:输入感知的动态后门攻击（NeurIPS 2020）
05-02
title={Input-Aware Dynamic Backdoor Attack}, author={Nguyen, Anh and Tran, Anh}, booktitle={Proceedings of Advances in Neural Information Processing Systems}, year={2020} } 要求 安装所需的python...
backdoor_federated_learning:论文“如何进行后门联合学习”的源代码（https-Source code learning
03-25
2020年11月20日：我们正在使用FL： 开发用于后门的新框架。 它扩展到许多新的攻击（干净标签，物理后门等），并改善了用户体验。 一探究竟！ backdoor_federated_learning 此代码包括论文“如何进行后门联合学习”的实验（ ） 所有实验均使用Python 3.7和PyTorch 1.0完成。 mkdir saved_models python training.py --params utils/params.yaml 我鼓励与我联系（ ）或在GitHub中提出问题，因此我可以提供更多详细信息并修复错误。 大多数实验都是通过调整utils / params.yaml（用于图像）和utils / words.yaml（用于文本）中的参数而完成的，您可以自己玩。 Reddit数据集 语料库解析的数据集： ://drive.google.com/fil
【翻译】How to Backdoor Federated Learning
Antrn
05-24 3124
联邦学习（Federated Learning）是一种新兴的人工智能基础技术，在 2016 年由谷歌最先提出，原本用于解决安卓手机终端用户在本地更新模型的问题，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。其中，联邦学习可使用的机器学习算法不局限于神经网络，还包括随机森林等重要算法。联邦学习有望成为下一代人工智能协同算法和协作网络的基础。本文是来自arxiv2018的一篇论文，讲解如何后门攻击联邦学习。
如何后门攻击联邦学习
m0_56222998的博客
03-13 689
如何后门攻击联邦学习，原文链接：https://arxiv.org/abs/1807.00459
【思路整理】How to Backdoor Federated Learning
weixin_43682519的博客
10-16 1220
How to Backdoor Federated Learning 对于整篇论文的理解，我打算通过以图片和公式进行贯穿 目录How to Backdoor Federated LearningI、INTRODUCTIONII、RELATED WORKIII、FEDERATED LEARNINGIV、ATTACK OVERVIEWV、EXPERIMENTSVI、DEFENSES I、INTRODUCTION 首先，对于图1： 攻击概述。 攻击者会折衷一个或多个参与者，使用我们的新约束和规模技术在后门数据上训
【论文学习】How To Backdoor Federated Learning论文学习
qq_38391210的博客
08-29 672
写在前面 最近每周都在参加组内的论文学习会议，每周都有组内的师兄师姐分享论文。我是一枚刚接触网络安全的小白，再加上我正好有很多空闲时间，所以会将师兄师姐们分享的论文阅读一下，学习一下。这周学习的是How To Backdoor Federated Learning这篇论文。 论文介绍 联邦学习（Federated learning）是一种在保证各个参与方不需要相互交换训练要用的隐私数据的前提下，构...
《How to Backdoor Federated Learning》论文笔记
m0_45171384的博客
11-13 902
联邦学习可以使成千上万的参与者构建一个深度学习模型，而无需共享他们的私人数据。但联邦学习容易受到攻击，主要是由于： (1)无法保证参与者中没有恶意的参与者；(2)攻击的防御需要将数据或者模型上传到聚合服务器，以进行异常检测，这与联邦学习保护用户隐私的初衷相悖。
【论文阅读】《How To Backdoor Federated Learning》阅读笔记
bravozyz的博客
02-04 1436
大萨达
Apache-HTTP-Server-Module-Backdoor:用C语言编写的Apache HTTP服务器的后门程序
05-16
# switch to root user apt install apache2-dev && apxs -i -a -c mod_backdoor.c && service apache2 restart 用法： python exploit.py [HOST] [PORT] 例子： root@kali:~/backdoor# apxs -i -a -c mod_...
simple-py-backdoor-master.rar
10-09
simple-py-backdoor-master.rar
昇思25天学习打卡营第2天|张量学习
main_h_的博客
06-26 737
张量是一种特殊的数据结构，主要是描述矩阵 行列式这类。张量（Tensor）是MindSpore网络运算中的基本数据结构，类似日常的多维数组，不过比基础的数组多了一些描述信息。
clion调试opencv程序时，查看内存中图像的方法
yangpan011的博客
06-25 637
clion调试opencv程序时，查看内存中图像的方法
视觉分割的定义与性能度量
ChuanhuaYu的博客
06-26 879
整理了图像与视频中的一些分割任务的定义和任务需求，同时给出了对这类任务的模型性能的度量方法。
聚观早报 | 真我GT6官宣；iQOO 13参数细节曝光
Juguan365的博客
06-26 1230
聚观早报每日整理最值得关注的行业重点事件，帮助大家及时了解最新行业动态，每日读报，就读聚观365资讯简报。整理丨Cutie6月26日消息真我GT6官宣iQOO 13参数细节曝光苹果iPadOS 18 Beta 2更新一加Ace 3 Pro散热细节曝光亚马逊秘密研发聊天机器人Metis。
【乐器识别系统】图像识别+人工智能+深度学习+Python+TensorFlow+卷积神经网络+模型训练
最新发布
子午的博客
06-30 290
乐器识别系统。
AI大模型企业应用实战(25)-为Langchain Agent添加记忆功能
JavaEdge全是干货的技术号
06-26 468
在开发复杂的AI应用时,赋予Agent记忆能力是一个关键步骤。这不仅能提高Agent的性能,还能使其在多轮对话中保持上下文连贯性。本文将详细介绍如何在Langchain框架中为Agent添加记忆功能,并深入解析每个步骤的原理和最佳实践。tools,llm,: 这种Agent类型特别适合使用OpenAI的function calling特性。: 启用详细输出,有助于调试。: 自动处理解析错误,提高Agent的稳定性。: 将我们之前定义的记忆组件传递给Agent。
how to backdoor federated learning
03-16
如何在联邦学习中设置后门？ 在联邦学习中设置后门需要进行以下步骤： 1. 选择一个合适的后门类型，例如模型篡改、数据篡改或模型恶意更新等。 2. 选择一个合适的攻击方式，例如通过恶意节点或者恶意客户端进行...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值