论文那些事—DECISION-BASED ADVERSARIAL ATTACKS:RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS

最新推荐文章于 2023-05-08 13:33:50 发布
最新推荐文章于 2023-05-08 13:33:50 发布
阅读量2.9k 收藏 8
点赞数 3
文章标签： 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shuweishuwei/article/details/121272352
版权
这篇论文提出了边界攻击，这是一种适用于黑盒机器学习模型的决策基对抗攻击方法。该方法不需要模型的梯度信息或类概率，而是依赖于模型的决策边界进行随机游走来生成对抗样本。边界攻击具有概念简单、灵活性高、需要较少超参数调整的特点，且能有效打破已有的防御机制。在计算机视觉任务中，其表现与基于梯度的攻击相当。论文还展示了在实际黑盒模型（如Clarifai的品牌和名人识别模型）上的应用效果。
摘要由CSDN通过智能技术生成

DECISION-BASED ADVERSARIAL ATTACKS:RELIABLE  ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS（ICLR2018）

1、摘要/背景

目前用于生成对抗扰动的大多数方法要么依赖于详细的模型信息（基于梯度的攻击)，要么依赖于置信度分数，例如类概率（基于分数的攻击)，这两种能力在大多数现实世界场景中都不可用。在许多此类情况下，人们目前需要退回到基于迁移的攻击，这些攻击依赖于繁琐的替代模型，而且需要访问训练数据并且可以防御。在这里，我们强调完全依赖于最终模型决策的攻击的重要性。这种基于决策的攻击是 (1) 适用于现实世界的黑盒模型，例如自动驾驶汽车；(2) 需要更少的知识，并且比基于迁移的攻击更容易应用； (3) 对于一些简单的防御来说，

最低0.47元/天 解锁文章
凉茶i
关注
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition针对人脸识别系统的高效黑盒对抗攻击算法
GAN_CVer的博客
12-02 2511
背景 在图 1 示例中，我们用同样的一个人脸识别模型（Arcface [1]）对两幅看起来一模一样的人脸图像进行识别，但是得到了完全不同的两个识别结果。这是为什么呢？原因是右图的人脸区域被加上了人眼无法察觉的恶意噪声，专门用于欺骗人脸识别模型。这种现象叫做对抗样本，即针对某种特定的模型（例如图像分类模型 ResNet [2]），在正常样本（例如 2D 图像，3D 点云等）上加入微小的噪声，使得模型...
decision-based adversarial attacks_reliable attacks against black-box machine learning models
qq_32925101的博客
12-19 1809
Decision-based adversarial attacks: Reliable attacks against black-box machine learning models Decision-based adversarial attacks: Reliable attacks against black-box machine learning models 本文提出了一种boundary-based的攻击方法，本方法不需要模型的梯度信息或score信息，因此可进行白盒和黑盒攻击。本方法还
DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS 论文解读
kking_edc的博客
11-10 1525
Abstract 这篇文章中我们介绍了Boundary Attack, a decision-based attack that starts from a large adversarial perturbation and then seeks to reduce the perturbation while staying adversarial。这种攻击在概念上十分简单，requires close to no hyperparameter tuning，并不依赖于替代模型 and is compe
DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHI
wangsanNOLOVE的博客
11-22 236
# DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHI
【对抗攻击论文笔记】Decision-Based Adversarial Attack With Frequency Mixup
ji_meng的博客
05-11 1691
今天分享的论文是来自IEEE的 Decision-Based Adversarial Attack With Frequency Mixup，首先来看一下这篇论文的motivation 先来做个简单介绍吧，我们常说的对抗攻击分为黑盒攻击和白盒攻击，黑盒攻击可以分为基于迁移的攻击，和基于查询的攻击。基于查询的攻击一般依赖于替代模型，并且需要访问训练数据。基于查询的攻击还可以进一步分为基于分数的攻击和基于决策的攻击。在给定输入的情况下，目标模型计算每个可用类别的概率，并将概率最高的类别(即TOP-1概率)作为最
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition论文解读
AlbertHUBU的博客
06-15 955
文章的主要贡献：1.提出了一个在基于决策的黑盒场景下的进化攻击方法，可以对搜索方向的局部几何进行建模，同时降低搜索空间的维度。 2.利用基于决策的黑盒攻击方法，对几种最先进的人脸识别模型（SphereFace, CosFace, ArcFace）做了鲁棒性测评，并展示了这些人脸模型的脆弱性。 3.通过对真实世界中的人脸识别系统进行攻击，展示了提出的方法的实际适用性。 ———————————————— 版权声明：本文为CSDN博主「努力奋斗的小橙子」的原创文章，遵循CC 4.0 BY-SA版权协议，转..
Efficient Decision-based Black-box Adversarial Attacks on Face Recognition
weixin_45184581的博客
11-17 1453
近年来，由于深度卷积神经网络（CNN）的巨大改进，人脸识别取得了显着进展。然而，深度 CNN 容易受到对抗性示例的影响，这可能会在具有安全敏感目的的现实世界人脸识别应用程序中造成致命的后果。对抗性攻击被广泛研究，因为它们可以在部署之前识别模型的漏洞。在本文中，我们评估了最先进的人脸识别模型在基于决策的黑盒攻击设置中的鲁棒性，其中攻击者无法访问模型参数和梯度，而只能获取硬标签通过向目标模型发送查询来进行预测。这种攻击设置在现实世界的人脸识别系统中更实用。
Conceptual Challenges for Interpretable Machine Learning
weixin_42786150的博客
03-01 1378
Conceptual Challenges for Interpretable Machine Learning David S. Watson1 'Department of Statistical Science, University College London, London, UK Email for correspondence: david.watson@ucl.ac.uk §0 Abstract As machine learning has gradually entere..
【论文阅读笔记】NeurIPS2020文章列表Part1
热门推荐
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
substitute_boundary_attack:机器学习2021课程的最终项目。替代模型边界攻击的实现
03-21
代理模型可帮助黑匣子对抗攻击 Skoltech的E.Burnaev，A.Zaytsev等人的《机器学习2021》课程 团队成员：Matvey Morozov，Anna Klueva，Elizaveta Kovtun，Dmitrii Korzh 介绍 对抗攻击是一种利用深度学习模式的非稳健性的方法，这意味着对输入的轻微修改可能导致模型无法获得正确的答案。在该项目中，我们考虑针对图像分类问题对深层神经网络进行边界黑箱对抗攻击的修改。在生成攻击示例的过程中，我们基于受攻击模型的替代模型使用了额外的步骤。 我们对替代边界攻击的实现基于 FoolBox框架实现 论文： : 和 依赖关系和要求 该实现是基于GPU的。单个GPU（〜GTX 1080 ti）足以运行每个特定的实验。主要先决条件是： foolbox==3.3.1 torch==1.6.0+cu101 torchvision=0.7
AAAI 2022 论文列表
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
Adversarial Attacks on deep learning阅读笔记
weixin_41617747的博客
03-14 1667
Adversarial Attacks on deep learning阅读笔记Adversarial Attacks on Deep-Learning Based Radio Signal Classification简单介绍 adversarial attackwhite-box algorithmBlack-box algorithmIntriguing properties of neur...
黑盒边界攻击：SIGN-OPT: A QUERY-EFFICIENT HARD-LABEL ADVERSARIAL ATTACK-ICLR 2020
xunbaobao123的博客
03-31 3547
黑盒边界攻击：SIGN-OPT: A QUERY-EFFICIENT HARD-LABEL ADVERSARIAL ATTACK-ICLR 2020 @[TOC]目录
【每周CV论文推荐】基于GAN的对抗攻击，适合阅读那些文章入门？
hacker_long的专栏
09-30 1430
欢迎来到《每周CV论文推荐》。在这个专栏里，还是本着有三AI一贯的原则，专注于让大家能够系统性完成学习，所以我们推荐的文章也必定是同一主题的。在图像分类的对抗攻击任务中，如果在图片上添加一个很小的扰动，虽然图像没有显著的视觉变化，但其可令分类器出现类别误判，这是GAN的一个重要应用领域。本文将推荐7篇对抗攻击的相关论文。作者&编辑 | 小米粥编辑 | 言有三1. BFGS对抗攻击领域的开山...
Aha! Adaptive History-driven Attack for Decision-based Black-box Models
最新发布
weixin_45184581的博客
05-08 524
基于决策的黑盒攻击指的是只使用受害者模型的前1个标签来制作对抗示例。一种常见的做法是从一个大的扰动开始，然后用一个确定的方向和一个随机的方向迭代地减少它，同时保持它的对抗性。从每个查询中获得的有限信息和低效的方向采样阻碍了攻击效率，使得在有限的查询数量中很难获得足够小的扰动。为了解决这一问题，我们提出了一种新的攻击方法，称为自适应历史驱动攻击(AHA)，它从所有历史查询中收集信息作为当前采样的先验。此外，为了平衡确定性方向和随机方向，我们根据实际减幅与预期减幅的比值动态调整系数。
有关对抗攻击的论文整理
Afra
11-10 755
对抗攻击对抗攻击对抗攻击的概念对抗攻击原理新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 对抗攻击 对抗攻击的概念 通过故意对数据集中输入样本添加难以察觉的扰动使模型以告知新都给出一个错误的输出。 对抗攻击原理 《In
“黑盒”下的攻击实现，真实世界的“人脸识别”遭遇危险！
喜欢打酱油的老鸟
04-26 5302
https://www.toutiao.com/a6683765601862681092/ 作为最重要的计算机视觉任务之一，人脸识别技术（Facial recognition）基于深度神经网络（CNN）提取人脸特征来实现。 近年来，由于深度神经网络（CNN）的巨大进步，人脸识别技术取得了显著的发展，被广泛使用于身份认证的实际应用中，比如：手机解锁、闸机认证，甚至是金融业务中身份...
CVPR 2019 | 针对人脸识别系统的高效黑盒对抗攻击算法
Paper weekly
12-01 8524
本工作提出了一种高效的基于决策的黑盒对抗攻击算法，在业内第一次以完全黑盒的方式成功地实现对人脸识别系统的对抗攻击。本工作由腾讯 AI Lab 主导，与清华大学，香港科技大学联合完成，发表...
Towards Deep Learning Models Resistant to Adversarial Attacks
04-03
Adversarial attacks are a major concern in the field of deep learning as they can cause misclassification and undermine the reliability of deep learning models. In recent years, researchers have ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值