【论文笔记】 Generating Adversarial Examples with Adversarial Networks

最新推荐文章于 2025-03-09 09:00:00 发布
最新推荐文章于 2025-03-09 09:00:00 发布
阅读量1.3k 收藏 3
点赞数 2
分类专栏： 图像识别系统对抗 文章标签： 机器学习 深度学习 人工智能 python 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WangHY_XCJ/article/details/111937300
版权
本文提出利用生成对抗网络（GANs）生成对抗例子的AdvGAN算法，可学习和近似原始实例分布，能在半白盒和黑盒攻击设置中应用。在黑盒攻击中动态训练提炼模型，优化生成器。该算法在不同目标模型上生成的对抗实例攻击成功率高，实验效果优于FGSM、CW方法。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

结论：由于本篇论文是在阅读完PS-GAN的基础上了来看的，所以并未感到有什么优越的策略。唯一新颖的点是在测试方法上使用了蒸馏网络来模拟黑盒攻击。

摘要

深度神经网络(DNNs)已经被发现容易受到对抗性例子的影响，这是由于输入中添加了小幅度的扰动。这种对抗性的例子会误导dnn产生对抗性选择的结果。不同的攻击策略已被提出以产生对抗实例，但如何产生高感知质量和更有效的对抗实例还需要更多的研究。在本文中，我们提出了利用生成对抗网络(GANs)生成对抗例子的AdvGAN算法，它可以学习和近似原始实例的分布。对于AdvGAN来说，一旦生成器被训练，它就可以在任何情况下有效地产生扰动，从而潜在地加速对抗训练作为防御。我们在半白盒和黑盒攻击设置中都应用了AdvGAN。与传统的白盒攻击不同，在半白盒攻击中，不需要在训练生成器之后访问原始目标模型。在黑盒攻击中，我们动态地训练一个经过提炼的模型作为黑盒模型，并相应地优化生成器。与其他攻击相比，AdvGAN在不同目标模型上生成的对抗实例在先进防御技术下具有较高的攻击成功率。在公开的MNIST黑箱攻击挑战中，我们的攻击以92.76%的准确率位居第一。

阅读理解

这篇文章是19年IJCAI中，在PS-GAN中被引用为network-based technique实现攻击，最开始还没有看明白为什么说是基于网络技术的，读完之后这种为网络技术就是基于GAN。
在这里插入图片描述

这篇文章虽然说是基于GAN（由于目前还没了解过GAN内部到底是如何生成图像的，这是下面工作中需要去补充的部分），但整体来看还是基于loss优化（GAN损失：区分生成图像和原图像、ADV损失：保证对抗样本分类置信度、对抗样本铰链损失：参考CW方法中的L2 norm控制干扰程度），整张图像的生成对抗样本进行白盒攻击（区分于PS-GAN中的patch）。
在这里插入图片描述

对于黑盒攻击，在黑盒模型选择上采用distilltion模拟黑盒，当获得distilltion后，执行与前面白盒攻击相同的策略。本文为了更进一步清晰黑盒和distilltion对于对抗样本的执行距离，选择采用动态蒸馏的方式，将蒸馏过程与生成对抗样本过程结合。
在这里插入图片描述

在实验部分又针对有防御的模型验证本文方法的攻击有效性，所谓的防御模型就是通过对抗训练的模型，实验效果也是较FGSM，CW方法要好。

Generating Adversarial Examples with Adversarial Networks 采用GAN的方法来生成对抗样本
weixin_39389001的博客
11-20 1927
AdvGAN 论文地址：https://arxiv.org/abs/1801.02610 论文的内容：采用GAN的方式来生成对抗样本 啥是对抗样本 对抗样本：adversarial examples 就是在真实样本的基础上加上一点点扰动，通常人眼无法察觉，但机器学习分类算法却会误判为其他类别～～ eg：大熊猫 + 很小的扰动量 ----结果判决成了长臂猿 最右边的图就是对抗样本。人眼看上去还是大熊...
论文阅读笔记：GENERATING NATURAL ADVERSARIAL EXAMPLES
qq_36356761的博客
04-18 3129
论文阅读笔记：GENERATING NATURAL ADVERSARIAL EXAMPLES 本文发表在ICLR2018上 问题 传统对抗样本是unnatural的，在真实数据中几乎不存在 contribution 提出了一种生成更natural, legible的对抗样本的方法，这种方法可以用来衡量模型的鲁棒性 方法 1、利用WGAN和（无标注）真实数据X训练一个生成器...
Generating Adversarial Examples with Adversarial Networks
MTandHJ的博客
06-16 899
文章目录概主要内容black-box 拓展 Xiao C, Li B, Zhu J, et al. Generating Adversarial Examples with Adversarial Networks[J]. arXiv: Cryptography and Security, 2018. @article{xiao2018generating, title={Generating Adversarial Examples with Adversarial Networks}, author
IJCAI2018 | AdvGAN | 使用对抗网络生成对抗样本
最新发布
四口鲸鱼爱吃盐的博客
03-09 762
本文 “Generating Adversarial Examples with Adversarial Networks” 提出 AdvGAN，利用生成对抗网络生成对抗样本，在半白盒和黑盒攻击场景下均有出色表现，生成的对抗样本攻击成功率高、感知质量好，为改进对抗训练防御方法提供了新方向。
advGAN_pytorch:论文“Generating Adversarial Examples with Adversarial Networks” (advGAN) 的 Pytorch 实现
05-31
advGAN_pytorch 论文“Generating Adversarial Examples with Adversarial Networks” (advGAN) 的 Pytorch 实现。 训练目标模型 python3 train_target_model.py 训练 advGAN python3 main.py 测试对抗样本 python3 test_adversarial_examples.py 结果 MNIST 测试集中的攻击成功率： 99% 注意：我的实现与论文略有不同，因为我添加了一个剪辑技巧。
[AdvGAN]Generating Adversarial Examples with Adversarial Networks阅读笔记
wanttifa的博客
01-06 6999
目录 文章目录@[toc]1.简介2.相关工作3.利用生成网络来生成对抗样本3.1.问题定义3.2.AdvGAN框架3.3黑盒攻击与对抗网络动态蒸馏4.实验结果4.1.AdvGAN在半白盒攻击中的设置4.2.AdvGAN在黑盒攻击中的设置4.3.防御下的攻击效能4.4.高分辨率对抗性的例子5.结论 1.简介 深度神经网络已经取得了很多成就，但是近来许多工作已经证明DNN在对抗干扰上是很脆弱的。许多...
[advGAN]Generating Adversarial Examples With Adversarial Networks
qq_37162983的博客
04-02 5620
这周读论文。。读的是这篇反正。这个内容比较新，网上也没啥有特别有价值的参考内容，把学习笔记发上来，希望能有一点点帮助嗯似乎是提出了用GAN以解决神经网络安全性的问题。。。白盒攻击攻击者能够获知机器学习所使用的算法，以及算法所使用的参数。攻击者在产生对抗性攻击数据的过程中能够与机器学习的系统有所交互。黑盒攻击攻击者并不知道机器学习所使用的算法和参数，但攻击者仍能与机器学习的系统有所交互．比如可以通过...
[paper]AdvJND:Generating Adversarial Examples with Just Noticeable Difference
weixin_43150428的博客
05-06 470
生成对抗样本有两个要求：攻击成功率和图像保真度指标。 增加扰动可以确保对抗样本的攻击成功率很高； 但是生成的对抗样本隐蔽性很差。 为了在攻击成功率和图像保真度之间取折衷，提出了一种名为AdvJND的方法，该方法在生成对抗样本时在失真函数的约束下添加了视觉模型系数，该系数用来衡量视觉上的差异。AdvJND算法生成的对抗样本产生的梯度分布与原始输入相似。该方法可以认为是一种辅助生成方法，用来改善生成算...
论文阅读：Generating Fluent Adversarial Examples for Natural Languages
咕噜咕噜
05-26 533
论文简介： nlp领域的对抗攻击存在两个问题：1.因为句子空间是离散的，在梯度下降方向很难添加扰动；2.生成的对抗样本句子流畅性不能保证；这篇文章提出MHA，利用Metropolis-Hastings sampling能一定程度解决上面问题；实验数据集：IMDB，SNLI ；做对比的文章是【1】Alzantot et al.的genetic attack model，但是作者提出这篇文章生成流畅性不足(PPL800),相关文章【2】Ebrahimi et al，但是这篇文章生产时不能选择...
「 [AdvGAN]Generating Adversarial Examples with Adversarial Networks论文精读」2023年9月22日
zmljh的博客
09-22 699
（我们就是对手，因为我们要训练出攻击模型，我们训练出的攻击模型就是威胁模型）在这种情况下，如果对手仍然可以成功地攻击模型，这意味着攻击策略的鲁棒性。类似地，在CIFAR-10上，我们对基于AdvGAN的ResNet和Wide ResNet应用了相同的半白盒攻击，图3（a）显示了一些对抗性示例，这些示例在感知上是真实的。此外，当我们在不了解现有防御的情况下应用AdvGAN在不同模型上生成对抗性实例时，生成的对抗性实例可以以比竞争方法生成的实例更高的攻击成功率攻击最先进的防御。在对角线上，显示原始图像。
干货 | Generative Adversarial Networks（GAN）的现有工作
omnispace的博客
02-09 6885
干货 | Generative Adversarial Networks（GAN）的现有工作 原创2016-02-29小S程序媛的日常程序媛的日常 今天想与大家分享的是图像生成中一些工作。这些工作都基于一大类模型，Generative Adversarial Networks（GAN）。从模型名称上甚至都可以看出一些发展轨迹：GAN->CGAN->LAPGAN->DCGAN
使用深度网络创造艺术：CAN, creative adversarial networks
silent56_th的博客
07-24 2934
1. 论文信息论文名称：CAN: Creative Adversarial Networks, Generating “Art” by Learning About Styles and Deviating from Style Norms 发表在：the eighth International Conference on Computational Creativity (ICCC), he
Generating Adversarial Malware Examples for Black-Box Attacks
qifeiyang112358的博客
09-28 664
Generating Adversarial Malware Examples for Black-Box Attacks   用生成对抗网络生成可以不被黑盒判别器识别的恶意软件。   恶意软件用M维的binary向量表示，每个维度表示API的调用（0,1分别表示是否调用）   这里用到dual-training的思想（大概吧，毕竟文中没有说明），在生成过程中首先加入噪声，结合其他操作...
论文笔记003:[TIP2019] SiGAN:Siamese Generative Adversarial Network for Identity-Preserving Face Hallucin
qq_41876456的博客
06-04 719
摘要 现有的生成对抗网络可以从低分辨率的人脸生成高分辨的人脸，但是不能对高分辨率的人脸做一个识别。为了解决这个问题，作者提出了SIGAN：第一能够从低分辨的人脸中生成高分辨的人脸，第二是修复后的人脸能做身份识别。 主要贡献： 1.提出的SIGAN能够生成高分辨率的人脸和身份标识信息 2.weak binary成对标签的提出：成对的人脸是属于同一个人还是不属于同一个人，用于身份标签信息识别。不需要全部标注信息，减少了工作量，主要是在constractive loss上发挥作用。 方法 1.GAN：两个生成.
Stacked Conditional Generative Adversarial Networks for Jointly Learning Shadow Detection and Shadow
Marvek的博客
04-26 1067
Stacked Conditional Generative Adversarial Networks for Jointly Learning Shadow Detection and Shadow Removal基本信息Abstract1. Introduction2. Related Work3. A new Dataset with Image Shadow Triplets– ISTD4...
基于生成对抗网络的隐写——GENERATIVE ADVERSARIAL NETWORKS FOR IMAGE STEGANOGRAPHY
weixin_48654804的博客
10-18 1587
GENERATIVE ADVERSARIAL NETWORKS FOR IMAGE STEGANOGRAPHY ICLR 2107 https://openreview.net/forum?id=H1hoFU9xe 隐写术就是构建一个映射SSS S:T×I→I^S:T\times I \to \hat IS:T×I→I^ TTT是message，III是image，I^\hat II^是包含message的III。 具体实现 引入SGAN。包含三个部分 生成网络G，生成看起来真实的数据 判别器网络D，
论文笔记：Generating Multi-label Discrete Patient Records using Generative Adversarial Networks.pdf
travalscx的博客
09-08 523
使用GAN和autodecoder的联合网络来生成样本，解决医疗样本因为隐私性问题而比较少的问题。 对于生成的样本，在生成G（z）之后，把他放入一个decoder网络中调整成适合输入的样本。这个decoder是真实样本x训练的autoencoder中的网络。 ...
AdvGAN算法（论文笔记）
hehhehea1的博客
11-30 5524
原文：Generating Adversarial Examples with Adversarial Networks 链接：https://arxiv.org/pdf/1801.02610 摘要 深度神经网络容易收到由于输入小幅度的干扰而产生对抗性示例的影响。人们已经提出了各种各样的攻击策略来生成攻击示例。如何产生高质量和更高效的示例需要更多的研究工作。再本文中，作者提出了AdvGAN算法，这是一种基于对抗网络生成对抗示例的方法。作者也做了白盒攻击和黑盒攻击的测试，并且在黑盒测试中，他们以92.7
Towards Deep Learning Models Resistant to Adversarial Attacks
04-03
1. Adversarial training: This involves generating adversarial examples during training and using them to augment the training data. This helps the model learn to be more robust to adversarial attacks....
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值