[paper]ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD

最新推荐文章于 2022-10-22 12:00:26 发布
VIP文章 最新推荐文章于 2022-10-22 12:00:26 发布
阅读量817 收藏 4
点赞数 2
分类专栏： AEs 文章标签： 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43150428/article/details/105969798
版权

本文指出在现实世界的场景下，机器学习系统也是非常脆弱的。并提出了BIM&ILCM算法，可用于现实世界场景下的对抗样本生成。
论文主要内容：

  • 探讨了为在物理世界中运行的机器学习系统创建对抗样本的可能性
  • 提出了两种方法来生成对抗样本，BIM&ILCM：
    在这里插入图片描述
  • 引入破坏率来表示现实世界中的变换对对抗样本的影响

损失函数—交叉熵损失(这里省略了网络权重 θ \theta θ)
J ( X , y ) = − l o g P ( y ∣ X ) J(X,y)=-logP(y|X) J(X,y)=−logP(y∣X)
Clip函数— C l i p x , ϵ X   ′ Clip_{x,\epsilon }{ {X~{'}}} Clipx,ϵ​X 

最低0.47元/天 解锁文章
ch1762
关注
  • 2
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Adversarial Texture for Fooling Person Detectors in the Physical
08-24
Adversarial Texture for Fooling Person Detectors in the Physical World 代码修改版，直接可运行版
对抗样本生成算法-FGSM、I-FGSM、ILCM、PGD
R.I.P Kobe Bryant
10-10 1万+
对抗样本生成算法FGSM、I-FGSM、ILCM、PGD
Adversarial examples in the physical world论文解读
kking_edc的博客
02-24 367
摘要 大多数现有的机器学习分类器对于对抗样本而言都十分脆弱。 2 生成对抗样本的方法 这一节描述了我们在实验部分使用的生成对抗样本的方法。需要注意的是，上述方法都不能保证生成的图像会被错误分类。然而，我们称所有生成的图像为“对抗图片”。 在这篇文章的后面，我们使用如下的符号表示： XXX：表示一个图片，通常是一个三维张量（width、height、depth）。在这篇文章中，我们假定像素的值均为整型数字，范围为[0,255]。 J(X,y)J(X,y)J(X,y)：表示给定输入图片XXX以及类别yyy后神
图像对抗算法-攻击篇（I-FGSM）
热门推荐
AI之路
05-31 2万+
论文：Adversarial examples in the physical world 论文链接：https://arxiv.org/abs/1607.02533 在上面一篇博客中，我介绍了FGSM算法，FGSM算法从梯度的角度做攻击，速度比较快，这是该算法比较创新的地方。但是FGSM算法只涉及单次梯度更新，有时候单次更新并不足以攻击成功，因此，在此基础上推出迭代式的FGSM，这就是I-FGS...
ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD
weixin_45184581的博客
06-13 976
ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD 物理世界中的对抗性例子大多数现有的机器学习分类器极易受到敌对示例的攻击。一个敌对的例子是输入数据的样本，该样本经过了非常轻微的修改，旨在导致机器学习分类器对其进行错误分类。在许多情况下，这些修改可能非常细微，以至于人类观察者根本没有注意到修改，但分类器仍然会出错。对抗性示例会带来安全问题，因为它们可能被用来对机器学习系统进行攻击，即使对手无法访问底层模型。到目前为止，所有以前的工作都假设了一个威胁模型，在该模型中，对手可以
对抗攻击Adversarial Attack
JxufeCarol的博客
10-22 1382
对抗样本的攻击主要分为无特定目标攻击（即只要求分类器对对抗样本错误分类，而不特定要求错误分类到哪一类）和特定目标攻击（即要求分类器将对抗样本错误分类到特定类别）。
深度学习的黑魔法防御术：恶意样本（Adversarial Example） 的防御策略综述
白马负金羁
12-30 6016
随着深度学习研究的深入，相关应用已经在许多领域展现出惊人的表现。一方面，深度神经网络（DNN）的强大能力着实吸引着学术界和产业界的眼球。另外一方面，深度学习的安全问题也开始引起广泛地关注。对于一个给定的深度神经网络，经过训练，它可能在具体任务上的表现出甚至超过人类。但是在原本能够被正确分类的图像中引入稍许（人眼不易察觉的）扰动，神经网络就可能被误导，从而导致错误的结果。经过精心调整的能够误导神经网络的输入就被称为是恶意样本（Adversarial Example）
生成对抗网络 - Adversarial Examples 对抗样本
mao_feng的博客
01-26 3612
GAN是如何工作的？
对抗性的例子生成ADVERSARIAL EXAMPLE GENERATION
m0_37909240的博客
09-11 1072
如果你正在阅读这篇文章，希望你能理解一些机器学习模型是多么有效。研究不断推动ML模型更快、更准确、更高效。然而，设计和训练模型的一个经常被忽视的方面是安全性和健壮性，特别是在面对希望愚弄模型的对手时。 本教程将提高您对ML模型的安全漏洞的认识，并将深入了解对抗性机器学习的热门话题。大家可能会惊讶地发现，在图像中添加不可察觉的扰动会导致截然不同的模型性能。鉴于这是一个教程，我们将通过图像分类器上的示例来探讨这个主题。具体来说，我们将使用第一种也是最流行的攻击方法之一，Fast Gradient Sign .
论文那些事——ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD
shuweishuwei的博客
09-12 795
第四篇ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD(物理世界中的对抗性例子) 1、摘要：现在大多数的机器学习分类器都容易受到对抗样本的攻击。当前，很多对抗样本是直接将数据（矩阵）输入至分类器中，但是在现实中，并不能直接将图片数据输入系统，而是通过相机等传感器将信号输入系统的。本文在基于此类现实环境做出相关研究。发现在此种情况下，机器学习模型仍然也是很容易受到对抗样本的攻击。作者通过手机摄像头获得对抗样本的图像，然后输入ImageNet Inception分类器中，通
pytorch-adversarial-examples:对抗性范例的PyTorch实现
05-10
对抗性例子 PyTorch实施以下算法： 快速梯度符号法（FGSM）[1] 基本迭代方法（BIM）[2] 傻瓜[3] 先决条件 的Python 3.5.2 PyTorch 0.4.0 火炬视觉0.2.1 NumPy 1.14.3 ...$ python main.py ... 标签：7
Adversarial Examples in Modern Machine Learning- A Review.pdf
01-28
We explore a variety of adversarial attack methods that apply to image-space content, real world adversarial attacks, adversarial defenses, and the transferability property of adversarial examples....
Explaining and Harnessing Adversarial Examples.zip
03-16
Explaining and Harnessing Adversarial Examples.zip
Adversarial Examples Improve Image Recognition.pdf
10-19
CVPR论文
[paper]Feature Squeezing: Detecting Adversarial Examples in Deep Neural Networks
weixin_43150428的博客
05-17 2155
本文提出了两种特征压缩方法： 减少每个像素的颜色位深度 使用空间平滑来减少各个像素之间的差异 特征压缩通过将与原始空间中许多不同特征向量相对应的样本合并为单个样本，从而减少了对手可用的搜索空间。通过将DNN模型对原始输入的预测与对压缩输入的预测进行比较，特征压缩可以很好的检测出对抗样本。本方法对于计算资源要求不高，可以与其他防御措施互补，并且可以结合联合检测框架使用。 Our approach, which we call feature squeezing, is driven by the obs
[paper]Defense against Adversarial Attacks Using High-Level Representation Guided Denoiser
weixin_43150428的博客
05-14 2087
本文提出了一种防御方法，即由高级特征主导的去噪器 high-level representation guided denoiser(HGD)。 标准去噪器具有误差放大效应，在这种效应中，较小的残留对抗噪声影响会逐渐放大，最终导致错误的分类。HGD通过将损失函数定义为由干净图像和去噪图像激活的目标模型输出之间的差值解决了这个问题。 HGD具有三个优点： HGD可以使目标模型面对对抗攻击更加鲁棒 HGD具有较好的泛化性 HGD效率更高（需要更少的训练数据和训练时间） 由于对抗样本使在原始图像添加特定的扰
[paper]IMPROVING ADVERSARIAL ROBUSTNESS REQUIRES REVISITING MISCLASSIFIED EXAMPLES
weixin_43150428的博客
06-13 1175
对抗训练是当前最有效的防御措施，经常被公式化为最小-最大优化问题。 where n is the number of training examples and lll(·) is the classification loss, such as the commonly used cross-entropy (CE) loss.Recently, adversarial training with adversarial examplesgeneratedbyProjectedGradientDesce
[paper]ADVERSARIAL MACHINE LEARNING AT SCALE
weixin_43150428的博客
05-14 939
本文的贡献包括： （1）如何将对抗训练扩展到大型模型和数据集； （2）对抗训练赋予单步攻击算法鲁棒性的原理； （3）发现多步攻击算法的可移植性相比单步攻击算法要差一些，因此单步攻击算法最适合于发动黑盒攻击。 （4）对于“标签泄漏”效应的解决方法。 “标签泄漏”效应即经过对抗训练的模型在对抗样本上的性能要比在原始样本上更好，因为对抗样本生成过程中使用真实标签，并且模型可以学习对抗样本生成过程中的规律性。 在结构相同的情况下，模型能力越强（即参数数量越多）的模型对对抗样本的鲁棒性越好。 不同类型的对抗样本在模
[paper]Adversarial Transformation Networks: Learning to Generate Adversarial Examples
weixin_43150428的博客
05-06 847
本文提出了ATN（Adversarial Transformation Network）方法来生成对抗样本。之前的许多方法都是利用梯度信息进行攻击，本文通过训练一个神经网络，将原图作为输入，输出为对抗样本。在给定原始输入的情况下，对分类器的输出进行最小的修改，同时限制新分类以匹配对抗目标类。 ATN神经网络可以被定义为： θ\thetaθ是神经网络的参数 fff是目标网络 优化问题为： LxL...
adversarial examples
最新发布
03-16
对抗样本是指通过对原始输入进行微小的修改，使得机器学习模型的输出结果发生错误的样本。这些修改可以是人类难以察觉的，但对于机器学习模型来说却足以改变其输出结果。对抗样本的出现对于机器学习模型的安全性和...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值