大白话之One Pixel Attack for Fooling Deep Neural Networks论文讲解

最新推荐文章于 2024-03-26 09:59:33 发布
最新推荐文章于 2024-03-26 09:59:33 发布
阅读量2k 收藏 13
点赞数 10
分类专栏： 深度学习 AI安全之对抗学习 文章标签： 单像素点攻击 对抗样本生成方式 One Pixel攻击 对抗样本论文解读 大白话解读单像素点攻击
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_41466575/article/details/119112766
版权

目录

1 引言

  • 使用单像素点愚弄深度神经网络。2017 CVPR 论文地址
  • 对抗样本生成的一种策略。
  • 本文采取一种独立思考的方式，来理解与讲解这篇论文。

2 算法原理

2.1 第一印象
  • what the fuck？改变一个像素点就能使网络分类错误？想法great，但怎么可能
  • 逐渐冷静。。。单像素点真的能攻击成功？
2.2 初步设想
  • Can we：貌似 ”goodfellow的模型高度线性化，使得图像会有扰动放大效应“ 为改设想提供了一定的理论依据。
  • How：假设确实改动某个像素点的值能实现对抗攻击。那如何去做？
  • Ask：既然只是更改一个像素点，自然而然，我们想到暴力求解可不可行？
  • Answer：如果用cifar数据集，一张图片意味着要进行 32 * 32 * 3 * 256次迭代。代价太大，不可行。
  • Ask：那梯度求解方式？
  • Answer：类似FGSM用梯度求解，是建立在基本改变图片全部像素点的前提下。这种场景和只改动单个像素点差远了。
  • Ask：那进化算法总行吧？既能实现黑盒攻击，问题解空间也不大。进化算法：你直接报我身份证得了。想要详细与进化算法深入接触？跳转
  • Focus（注意了哈）：作者提出使用差分进化算法来求解。恭喜你，最终还是说对了。
2.3 在此之前
  • 先抛开差分进化不管。首先 Focus on 优化目标，即我们要找的那个像素点应该满足何种标准。
    max ⁡ e ( x ) f a d v ( x + e ( x ) ) s u b j e c t    t o ∣ ∣ e ( x ) ∣ ∣ 0 ≤ d \max_{e(x)} f_{adv}\left(x+e(x)\right)\\ subject\; to \qquad ||e(x)||_0\le d\\ e(x)max​fadv​(x+e(x))subjectto∣∣e(x)∣∣0​≤d

f :

最低0.47元/天 解锁文章
论文那些事—One Pixel Attack for FoolingDeep Neural Networks
shuweishuwei的博客
10-11 594
One Pixel Attack for Fooling Deep Neural Networks（愚弄深层神经网络的单像素攻击） 1、摘要
[paper]One Pixel Attack for Fooling Deep Neural Networks
weixin_43150428的博客
05-13 781
之前对抗攻击算法都是在整个图像的所有像素点上做微小的扰动，以达到欺骗模型的目的。而本文的思想是只改变少量的像素点，甚至在只改变一个像素点的极端情况下就能获得较好的攻击效果。提出了一种基于差分进化（DE）生成单像素对抗样本的黑盒攻击（仅需要概率标签）算法。由于DE的固有属性，仅需要较少的对抗信息就可以欺骗更多类型的网络。 算法优点 ： 高效性 半黑盒攻击：只需要返回黑盒的类标概率而不用网络的内部参数。 灵活性：可以攻击那些不可微或梯度难以计算的模型。 主要出发点： 自然图像邻域的分析 感知度量 单像素
对抗攻击经典论文剖析（下）【DeepFool、One pixel attack、Universal adversarial perturbations、ATN】
一个nlp探险者的博客
04-26 5751
引言 上一篇讲的几篇经典对抗攻击论文主要讲的是如何在梯度上扰动或者优化，即尽可能保证下的扰动，不被人类发现，却大大降低了模型的性能。这一篇我们将会有一些更有意思的对抗攻击样本生成，包括像素级别的扰动以及样本生成（DeepFool、One pixel attack、Universal adversarial perturbations、ATN）。 DeepFool: a simple and acc...
One Pixel Attack for Fooling Deep Neural Networks论文解读
kking_edc的博客
10-25 484
论文地址 摘要 近期的研究揭示出深度神经网络（DNN）的输出可以很轻易地被通过在输入向量中添加relatively small perturbation来进行修改。在这篇论文中，作者分析了在一种极端情况下（只有单个像素可以被修改）的攻击。对于这种情况我们提出了一种基于differential evolution（DE）的novel method来生成单像素 adversarial perturbation。这种攻击方式需要更少的adversarial信息（一种黑盒攻击）并且由于DE的inherent fea
论文笔记（八）《One Pixel Attack for Fooling Deep Neural Networks》》
qq_39667860的博客
05-05 1413
摘要 论文分析了修改一个像素的有限场景下的一种攻击。提出了一种基于差分进化的生成1像素对抗扰动的方法。（黑盒攻击）。由于差分进化固有的特征，所以它可以愚弄更多类型的网络。结果显示在平均置信度为74.03%和22.91% 的情况下通过修改1像素，Kaggle CIFAR-10测试数据集67.97%的自然图像和16.04%的ImageNet (ILSVRC 2012)测试图像中，只要修改一个像素，就可以被扰动到至少一个目标类。因此，提出的攻击探讨了在极端有限的情况下对抗性机器学习的不同看法，显示当前 dnn也容
One Pixel Attack for Fooling Deep Neural Networks
MTandHJ的博客
04-14 1103
文章目录概主要内容问题描述Differential Evolution (DE)实验 Su J, Vargas D V, Sakurai K, et al. One Pixel Attack for Fooling Deep Neural Networks[J]. IEEE Transactions on Evolutionary Computation, 2019, 23(5): 828-84...
论文阅读笔记三十：One pixel attack for fooling deep neural networks（CVPR2017）
weixin_33717117的博客
12-14 943
论文源址：https://arxiv.org/abs/1710.08864 tensorflow代码: https://github.com/Hyperparticle/one-pixel-attack-keras 摘要 在对网络的输入上做点小处理，就可以改变DNN的输出结果。本文分析了一种极限条件下的攻击情形，只改变一个输入中的一个像素使网络的输出发生改变。本文提出...
One Pixel Attack for Fooling DNN 对抗样本单像素攻击
qq_51143009的博客
01-18 4918
One Pixel Attack for Fooling DNN 对抗样本单像素攻击 2019 One Pixel Attack for Fooling DNN 1.前言 通过在图像中添加一些人眼无法识别的扰动，可以使分类器分类对抗图片错误。 在这篇文章中，作者认为分析DNN的分类边界的集合特征也能够帮助理解DNN的分类特性。以往的工作对这方面的研究相对较少，是因为理解高维空间的几何特征相对困难。然而，DNN相对于对抗性扰动的鲁棒性评估可能有助于解决这个复杂的问题。 论文中使用差分进化提出一种单像素的黑盒攻
One Pixel Attack(对抗攻击) —— 使用差分进化算法寻找最优解
qq_48996375的博客
07-04 4602
论文原文：One pixel attack for fooling deep neural networks 论文链接：https://arxiv.org/abs/1710.08864 代码：https://github.com/Hyperparticle/one-pixel-attack-keras Adversarial Attack 对抗攻击不过多阐述，如上图所示，在原图像x0上加上一些perturbations得到x`，可以误导识别网络的识别结果。 AdvGAN 论文链接：https://.
one-pixel-attack-pytorch
03-26
one-pixel-attack-pytorch
一像素攻击喀拉拉邦：使用差动进化在Cifar10和ImageNet上的Keras实现“愚弄深层神经网络的一像素攻击”
02-03
一像素攻击 如果仅允许攻击者修改一个像素的颜色并且仅看到预测概率，那么导致深度神经网络对图像进行错误分类有多么简单？ 原来这很简单。 在许多情况下，攻击者甚至可能使网络返回他们想要的任何答案。 以下项目是Keras的重新实现和教程。 论文的官方代码可以在找到。 这个怎么运作 对于此攻击，我们将使用。 数据集的任务是将32x32像素的图像正确分类为10个类别之一（例如，鸟类，鹿，卡车）。 黑匣子攻击只需要神经网络输出的概率标签（每个类别的概率值）。 我们通过选择一个像素并将其修改为某种颜色来生成对抗图像。 通过使用称为（DE）的进化算法，我们可以迭代生成对抗图像，以尝试最小化神经网络分类的置信度（概率）。 信用： 首先，生成几个对抗样本，这些样本修改一个随机像素，并通过神经网络运行图像。 接下来，将先前像素的位置和颜色组合在一起，从中生成更多对抗性样本，然后通过神经网络运行新图像。 如果存在从最后一步降低网络信心的像素，请将其替换为当前最知名的解决方案。 重复这些步骤几次。 然后在最后一步返回最降低网络信任度的对抗形象。 如果成功，则置信度将大大降低，以使新的（不正确的）类别现
One pixel 对抗攻击_学习笔记
Erpim的博客
08-29 8249
前言 本篇博客出于学习交流目的，主要是用来记录自己学习中遇到的问题和心路历程，方便之后回顾。过程中可能引用其他大牛的博客，文末会给出相应链接，侵删！ One pixel 对抗攻击算法 特点：黑盒攻击，只改变一个像素点即可实现攻击 论文原文：One pixel attack for fooling deep neural networks 正文...
armitage攻击没有attack_OnePixel攻击
weixin_39836063的博客
11-18 184
原标题One Pixel Attack for Fooling Deep Neural Networks论文：One pixel attack for fooling deep neural networks​arxiv.org概述：最近的研究表明，通过向输入向量添加相对较小的扰动，可以很容易地改变深度神经网络(DNN)的输出。在本文中，研究人员分析了一种攻击在一个非常有限的情况下，只有一个像素可...
用一个像素攻陷神经网络
极光开发者
03-07 781
价值 | 思考 | 共鸣简评：仅用一个像素就能让神经网络蒙圈，产生对图片错误的判断。One Pixel Attack如果我们只改变一个像素点，能否让深度神经网络把图片错误分类？相信我们，用一个像素点，足以实现对神经网络攻陷。在很多情况下，我们甚至可以让神经网络给出我们想要的任何答案。以下项目是 Keras 重现和教程：One pixel attack for fooling deep neural
对抗攻击最新研究：仅修改「一个像素」即可骗过神经网络！
人工智能学家
10-29 5694
编译：BaymaxZ 作者：Jiawei Su、Danilo Vasconcellos Vargas、Sakurai Kouichi（九州大学） 摘要：在图像识别领域，基于DNN的方法克服了传统的图像处理技术，甚至达到媲美人类的结果。 最近的研究证实，深度神经网络（DNN）的输出不是连续的，对输入向量的微小扰动非常敏感，因此人们已经提出了几种方法来制定对网络的有效扰动。在本论文中，九
armitage攻击没有attack_[论文总结] One Pixel Attack for Fooling DNN 对抗样本单像素攻击...
weixin_39963534的博客
12-01 302
[论文总结] One Pixel Attack for Fooling Deep Neural Networks说在前面欢迎大家关注我的专栏，顺便点个赞~~~计算机视觉日常研习​zhuanlan.zhihu.comCVPR 2017，TEVC 2019，原文链接：http://arxiv.org/abs/1710.08864本文的开源代码：https://github.com/Hyperparti...
一像素攻击Keras：深度学习安全性的挑战与对策
最新发布
gitblog_00048的博客
03-26 453
一像素攻击Keras：深度学习安全性的挑战与对策 one-pixel-attack-keras项目地址:https://gitcode.com/gh_mirrors/on/one-pixel-attack-keras 在当前的AI时代，深度学习模型已经成为图像识别、自然语言处理等领域的基石。然而，这种先进技术并非无懈可击。项目揭示了一种针对深度学习模型的微妙攻击方式——仅通过改变图像中的一像素，...
阅读文献记录：像素攻击
weixin_43916250的博客
11-14 1731
ZOO:Zeroth Order Optimization Based Black-box Attacks to Deep Neural Networks without Training Substitute Models 核心思想：利用正负扰动带来的概率差估算一阶导（梯度）和二阶导，再利用ADAM或者牛顿法等方法更新x。本质为通过估算梯度将黑盒转换为白盒过程。 论文内容： ①INTRODUCT...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值