论文笔记 - BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning

已于 2023-04-12 08:52:36 修改
阅读量517 收藏
点赞数
分类专栏： ▶ Trustworthy AI 文章标签： 论文阅读 计算机视觉 人工智能
于 2022-10-20 23:45:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44944722/article/details/127433356
版权
该论文首次探讨了自监督学习中的后门攻击，特别是在计算机视觉领域的预训练图像编码器中。攻击者通过BadEncoder在编码器中植入后门，使得下游任务在特定触发器作用下进行错误分类。尽管现有防御方法针对监督学习，但自监督学习的后门攻击需要新的防御策略。论文提出了限制条件，定义了问题并详细阐述了算法思路，包括目标优化函数和BadEncoder的训练过程。
摘要由CSDN通过智能技术生成

文章目录

自监督学习下的后门攻击

基本信息

论文标题 BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning
论文作者 Jinyuan Jia, Yupei Liu, Neil Zhenqiang Gong
科研机构 Duke University
会议 S&P
年份 2022
论文链接 https://arxiv.org/pdf/2108.00352.pdf
开源代码 https://github.com/jjy1994/BadEncoder

核心贡献

  • 首次提出自监督学习后门攻击，（以计算机视觉场景为例子）在预训练的图像编码器植入后门，对于目标下游任务会自动继承编码器的后门，使得下游任务一旦激活后门触发器就会按照攻击者的意愿进行错误分类；
  • 基于现有的后门攻击防
了解本专栏 订阅专栏 解锁全文 超级会员免费看
WBZhang2022
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning-基于自监督学习预训练编码器的后门攻击
m0_57572083的博客
10-22 1535
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning-基于自监督学习预训练编码器的后门攻击
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning 论文笔记
weiyuxin的博客
11-21 887
这篇文章是首个针对与训练模型的后门攻击文章。BadEncoder 通过攻击自监督的预训练模型，将后门注入预训练编码器 encoder 中，同时导致下游的模型也继承后门属性。effectiveness goal: 基于 backdoor image encoder 训练的下游分类器，都应该继承了预训练模型的后门。即下游分类器遇上带有 trigger 的样本，也应该将其预测为 target 类。
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning
weixin_60335028的博客
05-08 2333
BadEncoder: Backdoor Attacks to Pre-trained Encoders in Self-Supervised Learning阅读笔记
网络安全学术顶会——CCS '22 议题清单、摘要与总结（下）
漏洞战争
06-18 2033
注意：本文由GPT4与Claude联合生成。161、Secure Auctions in the Presence of Rational Adversaries密封竞标拍卖用于在一组感兴趣的参与者之间分配资源。传统上，拍卖需要一个受信任的拍卖师在场，竞标者向其提供他们的私人出价。然而，实际上很难实现这样一个受信任的第三方。通用的安全计算协议可以用来去除受信任的第三方。然而，通用技术会导致效率低下...
CVPR2023对抗攻击相关论文
qq_45822394的博客
04-21 2599
在各种计算机视觉应用中，现实世界的对抗性物理补丁被证明在妥协最先进的模型中是成功的。基于输入梯度或特征分析的现有防御已经被最近基于 GAN 的攻击所破坏，这些攻击会产生自然补丁。在本文中，我们提出了Jedi，这是一种针对对抗性补丁的新防御，它对现实补丁攻击具有弹性。Jedi从信息论的角度解决了补丁定位问题;利用两个新的思想:(1)利用熵分析改进了潜在斑块区域的识别:我们发现即使在自然斑块中，对抗斑块的熵也很高;(2)使用能够从高熵核中完成补丁区域的自编码器，提高了对抗性补丁的定位。
input-aware-backdoor-attack-release:输入感知的动态后门攻击（NeurIPS 2020）
05-02
目录 输入感知的动态后门攻击 输入感知的动态后门攻击是一种通用的后门攻击... booktitle={Proceedings of Advances in Neural Information Processing Systems}, year={2020} } 要求 安装所需的python软件包 $ pip
OSX-Peristant-BackDoor:通过命令行完全控制OSX用户或root帐户
05-18
OSX永久后门 通过命令行完全控制OSX用户或root帐户。 这是此后门OSX的教程： : 使用您公开可见的服务器IP地址和端口编辑connect.sh 。 在现代OS X上运行setup.bash来安装后门。 使用nc -l -p 1337远程捕获外壳 ...
browser-backdoor：BrowserBackdoor是具有JavaScript WebSocket后门和Ruby命令行侦听器的电子应用程序
02-04
浏览器后门 BrowserBackdoor是一个应用程序，它使用JavaScript WebSocket Backdoor连接到侦听器。 BrowserBackdoorServer是一个服务器，它侦听传入的WebSocket连接并创建用于将命令发送到远程系统的命令行界面。 ...
grpc-http-backdoor:带有HTTP-ProtoBuf后门的gRPC服务器
05-02
在`grpc-http-backdoor-master`这个压缩包中，我们可以预期包含以下内容： 1. `protos`目录：存放protobuf定义的服务接口和消息类型。 2. `server`目录：包含gRPC服务器的实现，可能有一个HTTP处理器来转发HTTP请求...
Gel4y-Mini-Shell-Backdoor:可以绕过某些系统安全性的Webshel​​l
04-17
Gel4y迷你贝壳后门概括Gel4y Webshel​​l是使用PHP编程语言以隐身模式构建的后门程序，可以绕过服务器安全性。 每个功能都已转换为十六进制代码，以便可以渗透到WAF服务器系统。特征多文件上传创建文件夹和文件档案...
EncoderMI: Membership Inference against Pre-trainedEncoders in Contrastive Learning
weixin_45721305的博客
12-25 359
对比学习是一种很有前途的通用人工智能方法。特别是，给定图像或（图像，文本）对的未标记数据集（称为预训练数据集），对比学习预训练图像编码器，该图像编码器可用作许多下游任务的特征提取器。给定图像编码器，下游任务只需要少量或不需要标记的训练数据。然而，编码器的预训练通常会消耗大量数据和计算资源。因此，通常情况下，强大的编码器提供商（例如 OpenAI、谷歌）会预训练编码器，然后向下游客户（例如资源较少的组织、最终用户）提供服务。
【论文笔记】Targeted Backdoor Attacks on Deep Learning Systems Using Data Poisoning
大漠酿的博客
07-23 4383
Targeted Backdoor Attacks on Deep Learning Systems Using Data PoisoningAbstractI.IntroductionII.BACKDOOR POISONING ATTACKSA. Backdoor Attack in a Learning SystemMachine learning classification systemB...
Conditional Flow Matching: Simulation-Free Dynamic Optimal Transport论文阅读笔记
最新发布
weixin_46103454的博客
08-20 264
假设给定一个目标流pt和生成它的向量场ut .学习与pt相匹配的流的一种方法是通过对目标向量场的回归进行梯度下降。
【LLM之Base Model】Weaver论文阅读笔记
<p>专注挖坑</p>
08-19 624
Weaver模型系列旨在通过预训练和特定领域的对齐，使LLMs在创意和专业写作方面表现得更加人性化和多样化。Weaver通过引入一系列新的数据合成和对齐方法，使其能够生成更具创造性和符合人类风格的文本，从而满足内容创作的多样需求。
【论文阅读】APMSA: Adversarial Perturbation Against Model Stealing Attacks（2023）
Glass_Gun的博客
08-20 908
换句话说，对于威胁模型隐私的模型窃取攻击，利用API查询公共数据的可接受次数(即通常较小)，并从MUA获取返回的预测，以构建用于训练替代/被盗模型的“传输数据集”，从而危及MUA的隐私并破坏其业务价值。值得注意的是，除了私下使用被盗模型进行进一步的免费查询外，被盗模型还可以用来制作可转移的对抗示例来欺骗MUA[12]，[13]。攻击者通过私有模型提供的付费查询服务(即MLaaS提供的API)，对查询的输入x获得预测y，在某些情况下，返回的预测通常是概率向量(即x属于特定类别的置信度)或标签(top-1)。
基于方面的情感分析研究综述——论文阅读笔记
weixin_62472350的博客
08-17 1182
基于方面的情感分析（ABSA），旨在分析和理解人们的意见在方面的水平，它一个重要的细粒度情感分析问题。
VIT论文阅读： A Image is Worth 16x16 Words
qq_19859865的博客
08-18 463
在2024年，大家都知道了transformer的故事，但是在4年前, CNN和Transformer谁才是CV的未来，还没有那么确定。在简介部分，作者提到了一个令人失望的事实，在基于imagenet的实验中发现，transformer的表现差于同尺寸的ResNet。作者把原因归结到bias translation equivariance and locality，这些CNN具有，但是transformer不具有的特性上。如下图【1】
Swin-Transformer论文阅读
qq_19859865的博客
08-20 845
在CNN对于图像分类，目标检测等问题的探索中，大家已经发现，母舰检测，语义分割这类任务，相比于图像分类对于网络backbone有着不一样的需求。而基于vit对于图像分类问题的探索，接下来，大家可以依葫芦画瓢，尝试解决更有挑战的问题了。关于目标检测，语义分割这类任务，通常需要网络具有分层提取不同颗粒度的特征，并且，网络的是输入可能是更高分辨率的图像，输出也是更精细的特征，比如语义分割的mask。
how to backdoor federated learning
03-16
如何在联邦学习中设置后门？ 在联邦学习中设置后门需要进行以下步骤： 1. 选择一个合适的后门类型，例如模型篡改、数据篡改或模型恶意更新等。 2. 选择一个合适的攻击方式，例如通过恶意节点或者恶意客户端进行攻击。 3. 在联邦学习系统中插入后门代码，例如在模型更新过程中插入恶意代码。 4. 通过后门代码进行攻击，例如篡改模型或者数据，或者向模型中注入恶意代码。 需要注意的是，联邦学习是一种分布式学习方式，需要保证数据的隐私性和安全性，因此在进行后门攻击时需要遵循相关的法律法规和道德规范。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值