Deepfool阅读笔记

最新推荐文章于 2022-10-18 15:26:14 发布
最新推荐文章于 2022-10-18 15:26:14 发布
阅读量610 收藏
点赞数
文章标签： 机器学习 人工智能 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_49171105/article/details/126015656
版权
DeepFool算法通过迭代线性化计算最小扰动，改变分类器的决策，评估其鲁棒性。针对二元和多元分类器，算法详细描述了如何找到改变分类的最小扰动。研究指出不精确的计算可能导致鲁棒性评估的误导性结论，并提出了适用于不同范数的扩展。
摘要由CSDN通过智能技术生成

DeepFool算法，用于计算欺骗最新分类器的对抗样本。它基于分类器的迭代线性化，以生成足以更改分类标签的最小扰动。

文章主要贡献

  • 提出了一种简单准确的方法来计算和比较不同分类器对对抗性干扰的鲁棒性。
  • 实验结果表明使用不精确的方法计算对抗性扰动可能会导致关于鲁棒性的不同结论，有时甚至是误导性的结论。

  • 鲁棒性定义

  • 形式上，对于给定的分类器，定义一个对抗扰动为足以改变估计label \hat{k} 的最小扰动 r（样本鲁棒性是使得模型出现误分类的最小扰动）

  • x是干净样本， \hat{k} 是预测的label，\Delta (x;\hat{k}) 是  \hat{k} 在x点的鲁棒性。

 分类器\hat{k}在整个模型上的鲁棒性定义为：

DeepFool应用于二元分类器 

f是一个线性二分类分类器，

为了使得扰动达到最小，最小的方向就是垂直于分类面的方向。

f在x0处的鲁棒性，等于x0到F的距离。

 假设f是一个一般的二元可微分类器，我们采用一个迭代过程来估计鲁棒性，将f围绕当前点xi线性化，线性化分类器的最小扰动计算为

 

利用式(3)中的闭式解计算算法第i次迭代时的扰动ri，更新下一个迭代xi+1。
当xi+1改变分类器的符号时，算法停止。 

算法流程：

DeepFool应用于多元分类器

分类器的预测标签为：

本文采用的分类器方案是one-vs-all，依旧考虑线性分类器，分类结果的选择  

欺骗分类器的最小扰动：

  几何上，上述问题对应于 x0 与凸多面体P的补数之间的距离的计算：x0位于p内，用dist(x0,Pc)表示该距离。多面体P定义了f输出label  \hat{k}（x0）的空间区域，设置如下图

已知一个四分类器，干净样本x_{0}被分为第四类中。F_{k }是分类的边界超平面。绿色区域为一个凸区域可以表示为

 \hat{l}(x_{0})定义为P边界的最近超平面（下图\hat{l}(x_{0})=3）。形式上\hat{l}(x_{0})可以如下计算：

此时最小扰动为：

 算法流程

DeepFool应用于更一般的分类器 

在迭代i处用一个多面体\tilde{P}_{i}近似集合P

 在算法的每次迭代中，计算到达多面体边界的扰动向量\tilde{P}_{i},并更新当前估计。方法见算法2。

 在二进制情况下，我们的算法可以被看作是一个梯度下降算法，它具有在每次迭代时自动选择的自适应步长。算法2中的线性化也类似于顺序凸规划，其中每一步都对约束进行线性化。

扩展到l_{p }范数

本文中，使用2范数衡量了扰动，但提出的框架不限于这种选择，并且所提出的算法可以简单的适用于寻找任何l_{p }范数（p\in [1,\infty ))的最小扰动。用以下替换算法2中的10，11行中的更新步骤

 

​

《Comprehensive Privacy Analysis of Deep Learning》补完以及Deepfool对抗样本构造算法
VnK_的博客
05-06 1981
本周阅读了推理攻击领域关于深度学习的隐私性的全面分析《Comprehensive Privacy Analysis of Deep Learning》，以及介绍Deepfool对抗样本构造算法的《DeepFool: a simple and accurate method to fool deep neural networks》。 1. 《Comprehensive Privacy An...
阅读笔记 DeepFool: a simple and accurate method to fool deep neural networks
weixin_39929275的博客
09-01 573
阅读笔记 DeepFool: a simple and accurate method to fool deep neural networksAbstractIntroductionDeepFool for binary classifiersDeepFool for multiclass classifiersAffine multiclass classifierGeneral classifierExtension to lpl_plp​ norm Abstract 提出Deep Fool 算法
[论文阅读笔记]DeepFool: a simple and accurate method to fool deep neural networks
Invokar的博客
07-21 4968
DeepFool: a simple and accurate method to fool deep neural networks(2016 CVPR) 文章简介： 本文为Adversary Attack方向的一篇经典论文。算法名为DeepFool，其目标是寻求最小的扰动来达到生成对抗样本的目标。下图第2行为DeepFool算法生成的扰动，第3行为FGSM算法生成的扰动。可以看到当生成的tar...
DeepFool
qq_38037870的博客
03-03 313
1.参考 1111 在求对线性二分类器的最小扰动中，原文图如下。这里是二维平面，所以看图理解的时候应把样本看成有两个特征（分别沿横纵轴取值）；决策超平面是一条直线wx+b=0。最小扰动向量的大小是从样本到决策超平面的距离，方向与超平面的法向量相反） ...
如何理解DeepFool算法
DanyHgc的博客
01-03 4464
首先：DeepFool是白盒攻击算法 概述 生成对抗样本的基本思路，大体可以分为白盒攻击和黑盒攻击，区别在于黑盒测试把模型当做黑盒，只能输入样本获得预测结果，白盒在黑盒的基础上还可以获取模型的参数、梯度等信息。本文将介绍白盒攻击中最有名的DeepFool算法。 DeepFool基本原理 我们做攻击，一个很好的问题就是，我们究竟对原始图像做了多大修改就可以欺骗AI模型呢？换个说法就是，如何尽量少的修...
论文阅读 (54)：DeepFool: A Simple and Accurate Method to Fool Deep Neural Networks
因吉的博客
06-07 604
深度神经网络在图像分类任务上的成就毋庸置疑。然而，这些架构已被证明对图像的小扰动缺乏健壮性，目前也缺乏有效的方法来准确计算深度分类器应对大规模数据集上扰动的鲁棒性。本文则对这些鲁棒性进行可靠量化。.........
论文阅读笔记：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey
qq_36356761的博客
03-14 2911
论文阅读笔记：Threat of Adversarial Attacks on Deep Learning in Computer Vision: A Survey 要点 (universal adversarial perturbation)[1] 3D物理对抗样本 对抗样本生成 Box-constrained L-BFGS minρminρ\min_{\rho} Fast ...
《Universal adversarial perturbations》文献阅读笔记
VnK_的博客
05-06 1953
本文关于介绍关于通用扰动的《Universal adversarial perturbations》。 1. 《Universal adversarial perturbations》 本文介绍了一种通用（Universal）扰动的构造方法，攻击方只需要对所有同一分布的样本添加该通用算法下的扰动，就能实现对抗样本构造。即不用像之前的方法那样，要针对每一个样本进行梯度计算以求得扰动。 ...
DeepLearning&Tensorflow学习笔记4__mnist数据集DCGAN
Rosun
09-13 1365
1.Introduction利用mnist数据集进行训练DCGAN网络，生成数字图像。2.Source code#encoding:utf-8 """ Deep Convolutional Generative Adversarial Network (DCGAN).Using deep convolutional generative adversarial networks (DCGAN) to
DeepFool笔记：对原理的理解（二分类）
Niatruc的博客
04-12 620
在求对线性二分类器的最小扰动中，原文图如下。这里是二维平面，所以看图理解的时候应把样本看成有两个特征（分别沿横纵轴取值）；决策超平面是一条直线。最小扰动向量的大小是从样本到决策超平面的距离，方向与超平面的法向量相反） 点到直线距离公式：Ax1+Bx2+CA2+B2\frac{Ax_1+Bx_2+C}{\sqrt{A^2+B^2}}A2+B2​Ax1​+Bx2​+C​即wx+b∥w∥2\frac{wx+b}{\Vert{w}\Vert_2}∥w∥2​wx+b​即f(x)∥w∥2\frac{f(x)}{\Ve
DeepFool算法.rar
08-19
本算法是经典的对抗样本算法，参考论文为《DeepFool: a simple and accurate method to fool deep neural networks》，基于pytorch框架实现，已调试完毕，可直接运行。
DeepFool笔记：对原理的理解和公式推导（多分类）
Niatruc的博客
04-13 1020
对多分类的理解 在多分类器中，输出向量由输入x属于各个分类的概率组成。若输出的向量中某个类对应的概率高，则判定输入的样本属于该类。 将每个类别CkC_kCk​对应一个决策超平面ckc_kck​，平面两端分别表示“属于该分类”(CkC_kCk​)和“不属于该分类”(Ck‾\overline{C_k}Ck​​)。假设一个三分类器（如图，C4C_4C4​先忽视），于是对于C3C_3C3​分类区域，它是c1‾\overline{c_1}c1​​、c2‾\overline{c_2}c2​​和c3c_3c3​的交集。
论文那些事—DeepFool: a simple and accurate method to fool deep neural networks
shuweishuwei的博客
10-08 738
Elastic-Net Attacks to Deep Neural Networks via Adversarial Examples（通过对抗样本对深层神经网络的弹性网络攻击） 1、摘要及背景
DeepFool论文翻译---DeepFool: a simple and accurate method to fool deep neural networks
哈哈哈哈哈哈
10-11 1114
最先进的深度神经网络在许多图像分类任务中取得了令人印象深刻的结果。然而，这些相同的架构已经被证明对于较小的、广受欢迎的图像扰动是不稳定的。尽管这一现象很重要，但还没有提出有效的方法来准确计算最先进的深度分类器对大规模数据集上此类扰动的鲁棒性。本文中，我们填补了这一空白，并提出了DeepFool算法，以有效计算欺骗深度网络的扰动，从而可靠地量化这些分类器的鲁棒性。大量实验结果表明，我们的方法在计算对抗扰动和使分类器更健壮的任务上优于最近的方法。
对抗样本生成算法之DeepFool算法
ilalaaa的博客
05-17 3385
目录背景原理 论文链接点击获取. 背景 原理
对抗样本（五）DeepFool
白丁的博客
03-19 2618
文章目录一、论文相关信息  1.论文题目  2.论文时间  3.论文文献二、论文背景及简介三、论文主要内容1、Introduction2、DeepFool For Binary Classifiers3、DeepFool For Multiclass classifiers3.1 Affine Multiclass Classifier（线性的多分类分类器）3.2 General Classfie...
DeepFool论文阅读
yty_311的博客
01-05 682
英文不大好，论文翻译这类博客都是机器翻译用来自己阅读的，大家有兴趣的随便看看就好 DeepFool:一种简单而准确的愚弄深度神经网络的方法 摘要 最先进的深度神经网络已经在许多图像分类任务中取得了令人印象深刻的结果。然而，这些相同的架构已经被证明是不稳定的小，良好的寻找，图像的扰动。尽管这一现象很重要，但还没有提出有效的方法来精确计算最先进的深度分类器对大规模数据集上这种扰动的鲁棒性。在本文中，我们填补了这一空白，并提出了深度愚人算法来有效地计算愚弄深度网络的扰动，从而可靠地量化这些分类器的鲁棒...
DeepFool论文解读
weixin_40872714的博客
10-18 831
作者首先定义了对抗攻击的范式和模型的鲁棒性。   通常，对与一个给定的模型，能够改变分类器 k^(x)\hat{k}(x)k^(x) 的分类结果的最小对抗扰动 rrr 定义如下 Δ(x;k^):=min⁡r∥r∥2    subject to  k^(k+r)≠k^(x) \Delta(x;\hat{k}):=\min_r\|r\|_2\;\;\text{subject to}\; \hat{k}(k+r) \not=\hat{k}(x) Δ(x;k^):=rmin​∥r∥2​subject tok^(k
DeepFool对抗算法_学习笔记
热门推荐
Erpim的博客
07-19 1万+
前言 本篇博客出于学习交流目的，主要是用来记录自己学习中遇到的问题和心路历程，方便之后回顾。过程中可能引用其他大牛的博客，文末会给出相应链接，侵删！ DeepFool算法 特点：白盒攻击、 论文原文：DeepFool: a simple and accurate method to fool deep neural networks 正文...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值