Boosting the Transferability of Adversarial Samples via Attention

最新推荐文章于 2024-07-18 12:16:07 发布
最新推荐文章于 2024-07-18 12:16:07 发布
阅读量790 收藏 3
点赞数 1
分类专栏： Adversarial Attack 文章标签： 计算机视觉 对抗攻击 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_36059653/article/details/115770722
版权

Boosting the Transferability of Adversarial Samples via Attention

文章目录

论文收录于CVPR 2020

问题

作者将对抗攻击分为白盒攻击和黑盒攻击

attack：

  • white-box attack
  • black-box attack
    • query-based attack： 根据返回结果确定被攻击模型量变影响的方向
    • transfer-based attack(本文关注点)： 引入正则化可以显著提高攻击效果

transfer-based attack指训练一个替代模型，由替代模型生成的对抗样本基于迁移性，直接攻击目标模型。 但该方法容易产生一个问题：训练的替代模型容易过拟合，这会损害对抗样本的迁移性

提升对抗样本迁移性的方法：

  • ensamble-based
  • regularization-based (TAP就属于该方法，进行了两次正则化)

之前的攻击方法

TAP

在实验过程中，TAP方法的攻击性及迁移性都是很好的，并且在一些情况下甚至超过了本文提出的ATA。 TAP缓解了梯度消失的问题，减少了生成的对抗样本的多样性。

TAP进行了两次正则化，本文提出的ATA只进行了一次正则化。

ATA

1、期望对抗样本的搜索朝着替代模型和目标模型共同易受攻击的方向

2、作者观察到，大部分模型提取到的关键特征基本是相同的，如下图所示
img_1.png

3、通过注意力机制将最易受攻击的特征提取出来，将扰动加在这些特征上

4、过程
在这里插入图片描述
1）attention extraction: 通过反向传播梯度估计不同特征对模型方向的重要性

作者将整个feature map当作基础的特征提取器，因此，我们通过以下公式估计在分类为t时Ack(第k层的第c个feature map)的权重

最低0.47元/天 解锁文章
爽儿歪歪歪
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Boosting the margin—— a new explanation for the effectiveness of voting methods.pdf
03-04
Boosting the margin—— a new explanation for the effectiveness of voting methods.pdf，比较好的一篇文章，大家需要的可以看看
The Elements of Statistical Learning
04-23
此外，书中还介绍了集成方法，如Boosting和Bagging，它们通过组合多个弱预测器来构建强预测模型。 总之，《统计学习要素》涵盖了统计学习的众多核心概念和技术，不仅适合初学者入门，也对经验丰富的专业人士具有很...
论文那些事—Boosting the Transferability of Adversarial Samples via Attention
shuweishuwei的博客
12-07 2441
Boosting the Transferability of Adversarial Samples via Attention（CVPR2020，ATA） 1、摘要 本文主要以提高对抗样本的迁移性为目的，黑盒攻击在真实情况中才最常发生。首先关于注意力机制，粗略的描述就是“你正在做什么，你就将注意力集中在那一点上”。本文也是首次将注意力机制运用在对抗样本上，注意力主要由反向传播的梯度构成。 本文贡献主要有三个： 提出了一种新的策略来提高对抗性图像的可转移性。它的特点是引入模型注意来正则化对抗噪
《Boosting the Transferability of Video Adversarial Examplesvia Temporal Translation》AAAI论文
ligenzhi131619的博客
05-11 724
Abstract 尽管基于深度学习的视频识别模型取得了显著的成功，但它们很容易受到通过在纯净的视频样本上添加人类感觉不到的干扰而产生的对抗样本的影响。正如最近的研究所表明的那样，对抗样本是可转移的，这使得在现实应用中进行黑盒攻击是可行的。然而，大多数现有的对抗攻击方法在攻击其他视频模型时具有很差的可转移性，基于传输的视频模型攻击仍有待探索。为此，我们建议提高视频识别模型中黑盒攻击的视频对抗样本的可转移性。通过广泛的分析，我们发现不同的视频识别模型依赖于不同的区分时间模式，导致视频对抗样本的...
《StyLess: Boosting the Transferability of Adversarial Examples》论文解读
red_guy的博客
11-28 747
对抗样本具有迁移性，所以可以攻击不知道结构和参数的model限制对抗样本迁移性的原因：现在的transferable attack在优化过程中没有区分style和content特征我们提出了我们使用stylized networks作为，通过扰动自适应实例规范化来编码不同的风格特征。surrogate model(替代模型):通常是已知且可访问的深度神经网络模型，攻击者使用这个模型来生成对抗性扰动或样本。然后利用它们去攻击其它的黑箱模型。本文的方法可以防止使用。
对抗攻击：Robust Superpixel-Guided Attentional Adversarial Attack
weixin_42984516的博客
05-31 630
系列文章目录 提示：这里可以添加系列文章的所有文章的目录，目录需要自己手动添加 例如：第一章 Python 机器学习入门之pandas的使用 提示：写完文章后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录系列文章目录一、相关概念二、SAI-FGM1.原始图像的超像素点分割2.注意力热图分割3.对抗噪声的产生三、总结 一、相关概念 "pixel-wise" means these adversarial perturbations are added onto each pixel ind
boosting方法讲解
dongfeng10086的专栏
11-13 203
看了周志华的西瓜书，集成学习，公式太多，也不好懂，后来发现了一个讲解的很好的博文，分享一下： https://blog.csdn.net/guyuealian/article/details/70995333
Attention-Fool：点积注意力ViT模型攻击论文学习（CVPR2022）
s_ljfun的博客
08-16 766
Give Me Your Attention: Dot-Product Attention Considered Harmful for Adversarial Patch Robustness
【每周CV论文推荐】基于GAN的对抗攻击，适合阅读那些文章入门？
hacker_long的专栏
09-30 1392
欢迎来到《每周CV论文推荐》。在这个专栏里，还是本着有三AI一贯的原则，专注于让大家能够系统性完成学习，所以我们推荐的文章也必定是同一主题的。在图像分类的对抗攻击任务中，如果在图片上添加一个很小的扰动，虽然图像没有显著的视觉变化，但其可令分类器出现类别误判，这是GAN的一个重要应用领域。本文将推荐7篇对抗攻击的相关论文。作者&编辑 | 小米粥编辑 | 言有三1. BFGS对抗攻击领域的开山...
The Evolution of Boosting Algorithms From Machine Learning
03-17
2. 梯度Boosting：梯度Boosting是一种用于连续变量预测的统计建模方法，它通过最小化残差平方和的梯度来逐步添加新的弱学习器，每个新学习器都针对前一轮学习的误差进行优化。 3.似然基础的Boosting：这种方法基于...
Boosting via approaching optimal margin distribution
02-09
Boosting via approaching optimal margin distribution
Boosting算法（提升法和Gradient Boosting）
03-14
Boosting算法是一种集成学习算法，由一系列基本分类器按照不 同的权重组合成为一个强分类器，这些基本分类器之间有依赖关系。 包括Adaboost算法、提升树、GBDT算法。 当Adaboost算法中的基本分类器是cart回归树时，...
论文翻译 - Cross-Modal Transferable Adversarial Attacks from Images to Videos
anniewwy的博客
03-21 709
最近的研究表明，在一个白盒模型上手工制作的对抗样本可用于攻击其他黑盒模型。这种跨模型可转移性使得执行黑盒攻击成为可能，这对现实世界的 DNN 应用程序提出了安全问题。然而，现有的工作主要集中在研究共享相同输入数据模态的不同深度模型之间的对抗性可迁移性。对抗性扰动的跨模态可迁移性从未被探索过。本文研究了对抗性扰动在不同模式下的可迁移性，即利用白盒图像模型生成的对抗性扰动来攻击黑盒视频模型。
2020CVPR对抗样本相关论文整理（无开源代码）
ilalaaa的博客
11-29 3495
目录攻击防御 攻击 1. Polishing Decision-Based Adversarial Noise With a Customized Sampling. 《通过自定义采样产生基于决策的对抗性噪声》 作为有效的黑盒对抗攻击，基于决策的方法通过查询目标模型来消除对抗噪声。 其中，边界攻击由于其强大的噪声压缩能力而被广泛应用，尤其是与基于传输的方法结合使用时。 边界攻击将噪声压缩分为几个独立的采样过程，并以恒定的采样设置重复每个查询。 本文演示了使用当前噪声和历史查询来定​​制边界攻击中的方差和
【ICIP2022】提高对抗攻击的迁移性（在注意力空间下扰动的多样性生成）
B站搜索 馆主君晓 欢迎关注~
08-25 3136
这是发布在会议上的一篇文章，作者是韩国科学技术研究院，论文原文：https://arxiv.org/abs/2208.05650。我们知道在2D对抗攻击的领域，目前还能够做的就是提升对抗攻击的迁移性，也就是在源模型中生成的对抗样本，对于其它模型而言同样具有攻击性，也就是能够让其它模型判断失误。但是目前的问题是，生成的对抗样本对于源模型而言，攻击成功率100%，但是对于黑盒模型而言，其攻击成功率就大打折扣。
Push & Pull：注意力攻击生成可迁移对抗样本
欢迎来到道的世界
06-15 734
 该论文是关于对抗样本可迁移性的文章。在该论文中，作者提出了一种可迁移注意力攻击（TAA\mathrm{TAA}TAA），该方法基于关注图像特定区域和特征对干净图像进行对抗扰动。另外，作者还将三元组损失函数引入到对抗样本的生成策略中，在攻击过程中干净图像被迭代地“推”离源类，同时随着攻击进行“拉”近到目标类，以实现对抗样本较高的可迁移性。实验结果表明，该方法不仅提高了对抗样本的可迁移性，而且保持了较高的白盒目标攻击成功率。 论文链接： https://ieeexplore.ieee.org/docume
《对抗攻击与防御分类方法综述》阅读笔记20220401
挑食de猪队友的博客
06-13 1422
《对抗攻击与防御分类方法综述》 A Review of Adversarial Attack and Defense for Classification Methods DOI:10.1080/00031305.2021.2006781
“黑盒”下的攻击实现，真实世界的“人脸识别”遭遇危险！
喜欢打酱油的老鸟
04-26 5281
https://www.toutiao.com/a6683765601862681092/ 作为最重要的计算机视觉任务之一，人脸识别技术（Facial recognition）基于深度神经网络（CNN）提取人脸特征来实现。 近年来，由于深度神经网络（CNN）的巨大进步，人脸识别技术取得了显著的发展，被广泛使用于身份认证的实际应用中，比如：手机解锁、闸机认证，甚至是金融业务中身份...
＜数据集＞木材缺陷检测数据集＜目标检测＞
最新发布
qq_53332949的博客
07-18 444
YOLO与VOC格式的木材缺陷检测数据集，适用于YOLO系列、Faster Rcnn、SSD等模型训练，类别：Quartzity、Live_Knot、Marrow、resin、Dead_Knot、knot_with_crack、Knot_missing、Crack
boosting-crowd-counting-via-multifaceted-attention-
10-27
boosting-crowd-counting-via-multifaceted-attention是一种通过多方面注意力提升人群计数的方法。该方法利用了多个方面的特征来准确估计人群数量。 在传统的人群计数方法中，往往只关注人群的整体特征，而忽略了不同区域的细节。然而，不同区域之间的人群密度可能存在差异，因此细致地分析这些区域是非常重要的。 该方法首先利用卷积神经网络（CNN）提取图像的特征。然后，通过引入多个注意力机制，分别关注图像的局部细节、稀疏区域和密集区域。 首先，该方法引入了局部注意力机制，通过对图像的局部区域进行加权来捕捉人群的局部特征。这使得网络能够更好地适应不同区域的密度变化。 其次，该方法采用了稀疏区域注意力机制，它能够识别图像中的稀疏区域并将更多的注意力放在这些区域上。这是因为稀疏区域往往是需要重点关注的区域，因为它们可能包含有人群密度的极端变化。 最后，该方法还引入了密集区域注意力机制，通过提取图像中人群密集的区域，并将更多的注意力放在这些区域上来准确估计人群数量。 综上所述，boosting-crowd-counting-via-multifaceted-attention是一种通过引入多个注意力机制来提高人群计数的方法。它能够从不同方面细致地分析图像，并利用局部、稀疏和密集区域的特征来准确估计人群数量。这个方法通过考虑人群分布的细节，提供了更精确的人群计数结果。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值