【论文笔记】 Generating Adversarial Examples with Adversarial Networks

最新推荐文章于 2021-11-30 14:47:48 发布
最新推荐文章于 2021-11-30 14:47:48 发布
阅读量1.2k 收藏 2
点赞数 2
分类专栏： 图像识别系统对抗 文章标签： 机器学习 深度学习 人工智能 python 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WangHY_XCJ/article/details/111937300
版权

结论：由于本篇论文是在阅读完PS-GAN的基础上了来看的，所以并未感到有什么优越的策略。唯一新颖的点是在测试方法上使用了蒸馏网络来模拟黑盒攻击。

摘要

深度神经网络(DNNs)已经被发现容易受到对抗性例子的影响，这是由于输入中添加了小幅度的扰动。这种对抗性的例子会误导dnn产生对抗性选择的结果。不同的攻击策略已被提出以产生对抗实例，但如何产生高感知质量和更有效的对抗实例还需要更多的研究。在本文中，我们提出了利用生成对抗网络(GANs)生成对抗例子的AdvGAN算法，它可以学习和近似原始实例的分布。对于AdvGAN来说，一旦生成器被训练，它就可以在任何情况下有效地产生扰动，从而潜在地加速对抗训练作为防御。我们在半白盒和黑盒攻击设置中都应用了AdvGAN。与传统的白盒攻击不同，在半白盒攻击中，不需要在训练生成器之后访问原始目标模型。在黑盒攻击中，我们动态地训练一个经过提炼的模型作为黑盒模型，并相应地优化生成器。与其他攻击相比，AdvGAN在不同目标模型上生成的对抗实例在先进防御技术下具有较高的攻击成功率。在公开的MNIST黑箱攻击挑战中，我们的攻击以92.76%的准确率位居第一。

阅读理解

这篇文章是19年IJCAI中，在PS-GAN中被引用为network-based technique实现攻击，最开始还没有看明白为什么说是基于网络技术的，读完之后这种为网络技术就是基于GAN。
在这里插入图片描述

这篇文章虽然说是基于GAN（由于目前还没了解过GAN内部到底是如何生成图像的，这是下面工作中需要去补充的部分），但整体来看还是基于loss优化（GAN损失：区分生成图像和原图像、ADV损失：保证对抗样本分类置信度、对抗样本铰链损失：参考CW方法中的L2 norm控制干扰程度），整张图像的生成对抗样本进行白盒攻击（区分于PS-GAN中的patch）。
在这里插入图片描述

对于黑盒攻击，在黑盒模型选择上采用distilltion模拟黑盒，当获得distilltion后，执行与前面白盒攻击相同的策略。本文为了更进一步清晰黑盒和distilltion对于对抗样本的执行距离，选择采用动态蒸馏的方式，将蒸馏过程与生成对抗样本过程结合。
在这里插入图片描述

在实验部分又针对有防御的模型验证本文方法的攻击有效性，所谓的防御模型就是通过对抗训练的模型，实验效果也是较FGSM，CW方法要好。

Wwwwhy_　
关注
专栏目录
advGAN_pytorch:论文“Generating Adversarial Examples with Adversarial Networks” (advGAN) 的 Pytorch 实现
05-31
advGAN_pytorch 论文“Generating Adversarial Examples with Adversarial Networks” (advGAN) 的 Pytorch 实现。 训练目标模型 python3 train_target_model.py 训练 advGAN python3 main.py 测试对抗样本 python3 test_adversarial_examples.py 结果 MNIST 测试集中的攻击成功率： 99% 注意：我的实现与论文略有不同，因为我添加了一个剪辑技巧。
「 [AdvGAN]Generating Adversarial Examples with Adversarial Networks论文精读」2023年9月22日
最新发布
zmljh的博客
09-22 506
（我们就是对手，因为我们要训练出攻击模型，我们训练出的攻击模型就是威胁模型）在这种情况下，如果对手仍然可以成功地攻击模型，这意味着攻击策略的鲁棒性。类似地，在CIFAR-10上，我们对基于AdvGAN的ResNet和Wide ResNet应用了相同的半白盒攻击，图3（a）显示了一些对抗性示例，这些示例在感知上是真实的。此外，当我们在不了解现有防御的情况下应用AdvGAN在不同模型上生成对抗性实例时，生成的对抗性实例可以以比竞争方法生成的实例更高的攻击成功率攻击最先进的防御。在对角线上，显示原始图像。
Generating Adversarial Examples with Adversarial Networks 采用GAN的方法来生成对抗样本
weixin_39389001的博客
11-20 1830
AdvGAN 论文地址：https://arxiv.org/abs/1801.02610 论文的内容：采用GAN的方式来生成对抗样本 啥是对抗样本 对抗样本：adversarial examples 就是在真实样本的基础上加上一点点扰动，通常人眼无法察觉，但机器学习分类算法却会误判为其他类别～～ eg：大熊猫 + 很小的扰动量 ----结果判决成了长臂猿 最右边的图就是对抗样本。人眼看上去还是大熊...
[AdvGAN]Generating Adversarial Examples with Adversarial Networks阅读笔记
wanttifa的博客
01-06 6305
目录 文章目录@[toc]1.简介2.相关工作3.利用生成网络来生成对抗样本3.1.问题定义3.2.AdvGAN框架3.3黑盒攻击与对抗网络动态蒸馏4.实验结果4.1.AdvGAN在半白盒攻击中的设置4.2.AdvGAN在黑盒攻击中的设置4.3.防御下的攻击效能4.4.高分辨率对抗性的例子5.结论 1.简介 深度神经网络已经取得了很多成就，但是近来许多工作已经证明DNN在对抗干扰上是很脆弱的。许多...
[advGAN]Generating Adversarial Examples With Adversarial Networks
qq_37162983的博客
04-02 5521
这周读论文。。读的是这篇反正。这个内容比较新，网上也没啥有特别有价值的参考内容，把学习笔记发上来，希望能有一点点帮助嗯似乎是提出了用GAN以解决神经网络安全性的问题。。。白盒攻击攻击者能够获知机器学习所使用的算法，以及算法所使用的参数。攻击者在产生对抗性攻击数据的过程中能够与机器学习的系统有所交互。黑盒攻击攻击者并不知道机器学习所使用的算法和参数，但攻击者仍能与机器学习的系统有所交互．比如可以通过...
Generating Adversarial Examples with Adversarial Networks
MTandHJ的博客
06-16 850
文章目录概主要内容black-box 拓展 Xiao C, Li B, Zhu J, et al. Generating Adversarial Examples with Adversarial Networks[J]. arXiv: Cryptography and Security, 2018. @article{xiao2018generating, title={Generating Adversarial Examples with Adversarial Networks}, author
Adversarial Examples in Modern Machine Learning- A Review.pdf
01-28
In this survey, we focus on machine learning models in the visual domain, where methods for generating and detecting such examples have been most extensively studied. We explore a variety of ...
Predicting and Generating Wallpaper Texture with Semantic Properties
02-07
### 预测与生成壁纸纹理的语义属性 #### 概述 本文献探讨了一种预测和生成具有语义属性的壁纸纹理的方法。作者们针对当前壁纸选择和描述主要依赖于直观信息的问题，提出了一种更为复杂且精确的方法来处理实际世界中...
Generating Sequences With Recurrent Neural Networks（英文原版）
07-04
works can be used to generate complex sequences with long-range struc- ture, simply by predicting one data point at a time. The approach is demonstrated for text (where the data are discrete) and on...
Generating Text with Recurrent Neural Networks (LANG-RNN)-计算机科学
04-22
Generating Text with Recurrent Neural NetworksIlya Sutskever ILYA@CS.UTORONTO.CA James Martens JMARTENS@CS.TORONTO.EDU Geoffrey Hinton HINTON@CS.TORONTO.EDU University of Toronto, 6 King’s College Rd...
AdvGAN算法（论文笔记）
hehhehea1的博客
11-30 4993
原文：Generating Adversarial Examples with Adversarial Networks 链接：https://arxiv.org/pdf/1801.02610 摘要 深度神经网络容易收到由于输入小幅度的干扰而产生对抗性示例的影响。人们已经提出了各种各样的攻击策略来生成攻击示例。如何产生高质量和更高效的示例需要更多的研究工作。再本文中，作者提出了AdvGAN算法，这是一种基于对抗网络生成对抗示例的方法。作者也做了白盒攻击和黑盒攻击的测试，并且在黑盒测试中，他们以92.7
基于生成对抗网络的隐写——GENERATIVE ADVERSARIAL NETWORKS FOR IMAGE STEGANOGRAPHY
weixin_48654804的博客
10-18 1428
GENERATIVE ADVERSARIAL NETWORKS FOR IMAGE STEGANOGRAPHY ICLR 2107 https://openreview.net/forum?id=H1hoFU9xe 隐写术就是构建一个映射SSS S:T×I→I^S:T\times I \to \hat IS:T×I→I^ TTT是message，III是image，I^\hat II^是包含message的III。 具体实现 引入SGAN。包含三个部分 生成网络G，生成看起来真实的数据 判别器网络D，
干货 | Generative Adversarial Networks（GAN）的现有工作
omnispace的博客
02-09 6834
干货 | Generative Adversarial Networks（GAN）的现有工作 原创2016-02-29小S程序媛的日常程序媛的日常 今天想与大家分享的是图像生成中一些工作。这些工作都基于一大类模型，Generative Adversarial Networks（GAN）。从模型名称上甚至都可以看出一些发展轨迹：GAN->CGAN->LAPGAN->DCGAN
Generating Adversarial Malware Examples for Black-Box Attacks
qifeiyang112358的博客
09-28 626
Generating Adversarial Malware Examples for Black-Box Attacks   用生成对抗网络生成可以不被黑盒判别器识别的恶意软件。   恶意软件用M维的binary向量表示，每个维度表示API的调用（0,1分别表示是否调用）   这里用到dual-training的思想（大概吧，毕竟文中没有说明），在生成过程中首先加入噪声，结合其他操作...
Jun-Yan Zhu(朱俊彦) - UC Berkeley
weixin_30607029的博客
01-22 1700
Postdoctoral researcher Computer Science and Artificial Intelligence Laboratory Department of EECS Massachusetts Institute of Technology Email: junyanz at mit dot edu CV | Google Scholar | GitHub...
论文阅读笔记：GENERATING NATURAL ADVERSARIAL EXAMPLES
qq_36356761的博客
04-18 3086
论文阅读笔记：GENERATING NATURAL ADVERSARIAL EXAMPLES 本文发表在ICLR2018上 问题 传统对抗样本是unnatural的，在真实数据中几乎不存在 contribution 提出了一种生成更natural, legible的对抗样本的方法，这种方法可以用来衡量模型的鲁棒性 方法 1、利用WGAN和（无标注）真实数据X训练一个生成器...
Adversarial Examples 对抗样本
热门推荐
心之所向
03-24 1万+
定义 深度模型具有良好的泛化能力同时，也具有极高脆弱性。以分类为例：只需要通过故意添加细微的干扰所形成的输入样本（对抗样本），模型以高置信度给出了一个错误的输出。当然这问题不仅出现在深度模型中，在其他机器学习模型也存在。“对抗样本”是安全方面非常好的一个议题，因为它代表了AI安全领域里的一种具体的问题。 如上样本x的label为熊猫，在对x添加部分干扰后，在人眼中仍然分为熊猫，但对深度模型...
生成对抗网络GANs（笔记一）主线
qq_21210467的博客
08-19 1万+
生成式对抗网络（Generative Adversarial Nets, GAN） 一、发展历程： 最开始接触GANs是因为想了解有关于在少量数据的情况下如何做数据增广。然后就了解到了DCGAN生成手写数字的案例，简直是惊为天人，然今才逐渐开始了解生成对抗网络的思想。到了后来一直想用生成对抗网络的思想做语音识别和语音合成这一方面，一直找到合适的资料。再后来，鬼使神差的想结合GANs来做毕业论文...
使用深度网络创造艺术：CAN, creative adversarial networks
silent56_th的博客
07-24 2848
1. 论文信息论文名称：CAN: Creative Adversarial Networks, Generating “Art” by Learning About Styles and Deviating from Style Norms 发表在：the eighth International Conference on Computational Creativity (ICCC), he
Towards Deep Learning Models Resistant to Adversarial Attacks
04-03
Adversarial attacks are a major concern in the field of deep learning as they can cause misclassification and undermine the reliability of deep learning models. In recent years, researchers have proposed several techniques to improve the robustness of deep learning models against adversarial attacks. Here are some of the approaches: 1. Adversarial training: This involves generating adversarial examples during training and using them to augment the training data. This helps the model learn to be more robust to adversarial attacks. 2. Defensive distillation: This is a technique that involves training a second model to mimic the behavior of the original model. The second model is then used to make predictions, making it more difficult for an adversary to generate adversarial examples that can fool the model. 3. Feature squeezing: This involves converting the input data to a lower dimensionality, making it more difficult for an adversary to generate adversarial examples. 4. Gradient masking: This involves adding noise to the gradients during training to prevent an adversary from estimating the gradients accurately and generating adversarial examples. 5. Adversarial detection: This involves training a separate model to detect adversarial examples and reject them before they can be used to fool the main model. 6. Model compression: This involves reducing the complexity of the model, making it more difficult for an adversary to generate adversarial examples. In conclusion, improving the robustness of deep learning models against adversarial attacks is an active area of research. Researchers are continually developing new techniques and approaches to make deep learning models more resistant to adversarial attacks.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值