对抗样本
Mitsuha三叶
这个作者很懒,什么都没留下…
展开
-
【论文笔记】Skip Connections Matter: On the Transferability of Adversarial Examples Generated with ResNet
0.摘要 这篇论文提出了一种利用最先进的 ResNet 和 DenseNet 中 Skip connection 结构的对抗样本生成方法,称为 ‘SGM’,这种生成方法能与之前的对抗样本生成技术结合,提高生成的对抗样本的黑盒攻击转移率。1.背景1.1 关于Skip connection结构 ResNet即残差网络,与普通神经网络模型的最大区别是引入了skip connection结构。最基本的公式如上所示,表示将某一层的输入数据跳跃若干层作用到更深...原创 2020-08-25 01:43:52 · 1105 阅读 · 0 评论 -
【论文阅读笔记】Deep neural networks are easily fooled- High confidence predictions for unrecognizable image
与之前提出的添加微小扰动来造成DNN的误判不同,本文提出的是生成一系列人类无法识别,但是却可以被DNN以99.99%的置信度分类的图片。具体而言提出了两种基于进化算法的以及一种利用梯度上升的生成算法。 基于进化算法的主要参考以下流程: 其中第一种EA:保留每个(或单个,如果是针对一个类别来生成)类别的最优生成样本,每次随机选择样本来变异。采用直接...原创 2020-08-09 22:47:26 · 337 阅读 · 0 评论 -
【论文阅读笔记】Explaining And Harnessing Adversarial Examples
0.论文摘要 本文提出了对于对抗样本存在原因的新解释——于神经网络的线性特性,并提出了快速有效生成对抗样本的方法以及基于对抗的模型训练方式。1.对抗样本的线性解释 考虑如上公式,其中代表一个生成的对抗样本,代表权重参数,代表在正常样本基础上添加的扰动,其中扰动向量中每一元素的数值绝对值大小都不超过。 当我们取,对计算结果造成的最大影响大小为,其中表示向量的维数...原创 2020-08-05 01:30:56 · 615 阅读 · 1 评论