Deepfool阅读笔记

最新推荐文章于 2023-11-13 20:06:30 发布
最新推荐文章于 2023-11-13 20:06:30 发布
阅读量503 收藏
点赞数
文章标签： 机器学习 人工智能 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_49171105/article/details/126015656
版权

DeepFool算法，用于计算欺骗最新分类器的对抗样本。它基于分类器的迭代线性化，以生成足以更改分类标签的最小扰动。

文章主要贡献

  • 提出了一种简单准确的方法来计算和比较不同分类器对对抗性干扰的鲁棒性。
  • 实验结果表明使用不精确的方法计算对抗性扰动可能会导致关于鲁棒性的不同结论，有时甚至是误导性的结论。

  • 鲁棒性定义

  • 形式上，对于给定的分类器，定义一个对抗扰动为足以改变估计label \hat{k} 的最小扰动 r（样本鲁棒性是使得模型出现误分类的最小扰动）

  • x是干净样本， \hat{k} 是预测的label，\Delta (x;\hat{k}) 是  \hat{k} 在x点的鲁棒性。

 分类器\hat{k}在整个模型上的鲁棒性定义为：

DeepFool应用于二元分类器 

f是一个线性二分类分类器，

为了使得扰动达到最小，最小的方向就是垂直于分类面的方向。

f在x0处的鲁棒性，等于x0到F的距离。

 假设f是一个一般的二元可微分类器，我们采用一个迭代过程来估计鲁棒性，将f围绕当前点xi线性化，线性化分类器的最小扰动计算为

 

利用式(3)中的闭式解计算算法第i次迭代时的扰动ri，更新下一个迭代xi+1。
当xi+1改变分类器的符号时，算法停止。 

算法流程：

DeepFool应用于多元分类器

分类器的预测标签为：

本文采用的分类器方案是one-vs-all，依旧考虑线性分类器，分类结果的选择  

欺骗分类器的最小扰动：

  几何上，上述问题对应于 x0 与凸多面体P的补数之间的距离的计算：x0位于p内，用dist(x0,Pc)表示该距离。多面体P定义了f输出label  \hat{k}（x0）的空间区域，设置如下图

已知一个四分类器，干净样本x_{0}被分为第四类中。F_{k }是分类的边界超平面。绿色区域为一个凸区域可以表示为

 \hat{l}(x_{0})定义为P边界的最近超平面（下图\hat{l}(x_{0})=3）。形式上\hat{l}(x_{0})可以如下计算：

此时最小扰动为：

 算法流程

DeepFool应用于更一般的分类器 

在迭代i处用一个多面体\tilde{P}_{i}近似集合P

 在算法的每次迭代中，计算到达多面体边界的扰动向量\tilde{P}_{i},并更新当前估计。方法见算法2。

 在二进制情况下，我们的算法可以被看作是一个梯度下降算法，它具有在每次迭代时自动选择的自适应步长。算法2中的线性化也类似于顺序凸规划，其中每一步都对约束进行线性化。

扩展到l_{p }范数

本文中，使用2范数衡量了扰动，但提出的框架不限于这种选择，并且所提出的算法可以简单的适用于寻找任何l_{p }范数（p\in [1,\infty ))的最小扰动。用以下替换算法2中的10，11行中的更新步骤

 

​

你今天论文了吗
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
经典对抗攻击Deepfool原理详解与代码解读
Paper weekly
08-17 1万+
©PaperWeekly 原创 · 作者｜孙裕道学校｜北京邮电大学博士生研究方向｜GAN图像生成、情绪对抗样本生成论文标题：DeepFool: a simple and accurate...
DeepFool对抗算法
08-28
DeepFool对抗算法实现代码，需先下载cleverhans集成库，或是我资源中的FGSM算法也可以。
DeepFool算法.rar
08-19
本算法是经典的对抗样本算法，参考论文为《DeepFool: a simple and accurate method to fool deep neural networks》，基于pytorch框架实现，已调试完毕，可直接运行。
[论文阅读笔记]DeepFool: a simple and accurate method to fool deep neural networks
Invokar的博客
07-21 4658
DeepFool: a simple and accurate method to fool deep neural networks(2016 CVPR) 文章简介： 本文为Adversary Attack方向的一篇经典论文。算法名为DeepFool，其目标是寻求最小的扰动来达到生成对抗样本的目标。下图第2行为DeepFool算法生成的扰动，第3行为FGSM算法生成的扰动。可以看到当生成的tar...
对抗样本之DeepFool原理&coding
liuyishou
07-21 3532
目录1 笔者言2 coding2.1 训练模型2.2 DeepFool对抗样本生成2.3 测试鲁棒性2.4 可视化展示附录 1 笔者言 虽说标题有DeepFool原理，但能力有限，这个我确实讲不清楚。与FGSM，BIM，MIM，CW等生成对抗样本的方法相比，deepfool是最难的了。给你推荐一个我看懂了的文章，但切记，想要真正明白deepfool的原理，就一定要耐下性子认真看，还要多动笔画示意图。言至此，传送门 本文主要讲解代码，完成生成deepfool对抗样本的完整过程。直接复制代码就能跑。相信我，不
deepfool简单实现
heartipp的博客
10-24 1027
```python import numpy as np import torch # pytorch机器学习开源框架 import torch.nn as nn from torch.autograd import Variable import torch.nn.functional as F import torchvision import torch.optim as optim from torchvision import transforms from tqdm import * im.
DeepFool（迷惑深度学习分类模型）测试
热门推荐
大数据挖掘SparkExpert的博客
12-26 1万+
AI+网络安全是当前网络攻击与防御方向比较热门和前沿的领域。同时网络安全中的漏洞挖掘、入侵检测、异常流量等传统任务也已经出现了大量基于深度学习的实现方法。然而当以深度学习为主流的人工智能应用越来越广泛之后，陆续又出现了对于人工智能应用的攻击，主要分为两种：一是白盒测试，即深度学习的模型架构和参数都已经的情况下，这种场景的攻击一般可以进行参数的修改来达到攻击的效果；二是黑盒测试，即上述情况未知的情况
对抗样本（五）DeepFool
白丁的博客
03-19 2473
文章目录一、论文相关信息  1.论文题目  2.论文时间  3.论文文献二、论文背景及简介三、论文主要内容1、Introduction2、DeepFool For Binary Classifiers3、DeepFool For Multiclass classifiers3.1 Affine Multiclass Classifier（线性的多分类分类器）3.2 General Classfie...
DeepFool论文解读
weixin_40872714的博客
10-18 704
作者首先定义了对抗攻击的范式和模型的鲁棒性。   通常，对与一个给定的模型，能够改变分类器 k^(x)\hat{k}(x)k^(x) 的分类结果的最小对抗扰动 rrr 定义如下 Δ(x;k^):=min⁡r∥r∥2    subject to  k^(k+r)≠k^(x) \Delta(x;\hat{k}):=\min_r\|r\|_2\;\;\text{subject to}\; \hat{k}(k+r) \not=\hat{k}(x) Δ(x;k^):=rmin​∥r∥2​subject tok^(k
deepfool攻击pytorch代码
qq_42732826的博客
04-29 529
目前，没有有效率的方法可以用来精确的计算深度模型对对抗扰动的鲁棒性。在这篇论文中，提出了DeepFool的算法来生成扰动，并且提出了一种量化分类器鲁棒性的方法。FGSM虽然快，但是它只是提供了最优扰动的一个粗略的估计，它执行的梯度的方法，经常得到的是局部最优解，DeepFool能够得到更小的扰动，甚至比FGSM小一个数量级。提出了一种计算分类器对对抗扰动的鲁棒性的评价方法。上面这些代码都可以复用的所以我直接用。下面这部分是非定向攻击的代码。直接放pytorch代码吧。下面这部分是定向攻击的代码。
DeepFool: a simple and accurate method to fool deep neural networks（2016 CVPR）
weixin_43856668的博客
11-13 225
最先进的深度神经网络已经在许多图像分类任务上取得了令人印象深刻的结果。然而，这些相同的架构已被证明对于图像的小而良好的扰动是不稳定的。尽管这种现象很重要，但尚未提出有效的方法来准确计算最先进的深度分类器对大规模数据集上的此类扰动的鲁棒性。在本文中，我们填补了这一空白，并提出了 DeepFool 算法来有效计算欺骗深度网络的扰动，从而可靠地量化这些分类器的鲁棒性。大量的实验结果表明，我们的方法在计算对抗性扰动和使分类器更加鲁棒的任务中优于最新的方法。
DeepFool论文测试代码
10-24
DeepFool算法的研究者将其实验代码传至github，因下载很慢，故放到这供对抗样本感兴趣的可以下载测试。
对抗样本生成方法综述（FGSM、BIM\I-FGSM、PGD、JSMA、C&W、DeepFool）
04-17
对抗样本生成方法综述（FGSM、BIM\I-FGSM、PGD、JSMA、C&W、DeepFool）
DeepFool: a simple and accurate method to fool deep neural networks.pdf
03-25
DeepFool: a simple and accurate method to fool deep neural networks.pdf
DeepFool论文翻译---DeepFool: a simple and accurate method to fool deep neural networks
哈哈哈哈哈哈
10-11 957
最先进的深度神经网络在许多图像分类任务中取得了令人印象深刻的结果。然而，这些相同的架构已经被证明对于较小的、广受欢迎的图像扰动是不稳定的。尽管这一现象很重要，但还没有提出有效的方法来准确计算最先进的深度分类器对大规模数据集上此类扰动的鲁棒性。本文中，我们填补了这一空白，并提出了DeepFool算法，以有效计算欺骗深度网络的扰动，从而可靠地量化这些分类器的鲁棒性。大量实验结果表明，我们的方法在计算对抗扰动和使分类器更健壮的任务上优于最近的方法。
DeepFool论文阅读
yty_311的博客
01-05 608
英文不大好，论文翻译这类博客都是机器翻译用来自己阅读的，大家有兴趣的随便看看就好 DeepFool:一种简单而准确的愚弄深度神经网络的方法 摘要 最先进的深度神经网络已经在许多图像分类任务中取得了令人印象深刻的结果。然而，这些相同的架构已经被证明是不稳定的小，良好的寻找，图像的扰动。尽管这一现象很重要，但还没有提出有效的方法来精确计算最先进的深度分类器对大规模数据集上这种扰动的鲁棒性。在本文中，我们填补了这一空白，并提出了深度愚人算法来有效地计算愚弄深度网络的扰动，从而可靠地量化这些分类器的鲁棒...
DeepFool公式理解
哈哈哈哈哈哈
10-11 490
DeepFool公式详解
论文那些事—DeepFool: a simple and accurate method to fool deep neural networks
shuweishuwei的博客
10-08 656
Elastic-Net Attacks to Deep Neural Networks via Adversarial Examples（通过对抗样本对深层神经网络的弹性网络攻击） 1、摘要及背景
对抗样本生成算法之DeepFool算法
ilalaaa的博客
05-17 2887
目录背景原理 论文链接点击获取. 背景 原理
ＤｅｅｐＦｏｏｌ中文交
最新发布
03-24
DeepFool是一种用于对抗样本生成的算法，它可以在输入数据上进行微小的扰动，以使得深度学习模型产生错误的分类结果。DeepFool算法通过计算每个类别的线性边界与输入数据之间的距离，然后选择距离最小的边界进行扰动...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值