学习笔记：【VALSE短教程】《Adversarial Attack and Defense》

最新推荐文章于 2024-01-23 16:59:55 发布
最新推荐文章于 2024-01-23 16:59:55 发布
阅读量3.5k 收藏 8
点赞数 3
文章标签： python 计算机视觉 人工智能 深度学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangsanNOLOVE/article/details/121293207
版权

学习笔记：【VALSE短教程】《Adversarial Attack and Defense》

视频地址

在这里插入图片描述

1、White-box attacks

在这里插入图片描述
Direction I
在这里插入图片描述

在这里插入图片描述
论文地址：

EXPLAINING AND HARNESSING ADVERSARIAL EXAMPLES
在这里插入图片描述
论文地址：

ADVERSARIAL EXAMPLES IN THE PHYSICAL WORLD

在这里插入图片描述
论文地址：

Towards Deep Learning Models Resistant to Adversarial Attacks

Direction II
分错条件下找到扰动最小的对抗样本。

在这里插入图片描述
论文地址：

DeepFool: a simple and accurate method to fool deep neural networks

在这里插入图片描述

论文地址：

Towards Evaluating the Robustness of Neural Networks

在这里插入图片描述

在这里插入图片描述

2、Black-box Attack

在这里插入图片描述
在这里插入图片描述

1、Transferability-based Attack

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

论文地址：

Boosting Adversarial Attacks with Momentum

NESTEROV ACCELERATED GRADIENT AND SCALE INVARIANCE FOR ADVERSARIAL ATTACKS

在这里插入图片描述

论文地址：

Towards Understanding and Improving the Transferability of Adversarial Examples in Deep Neural Networks

Evading Defenses to Transferable Adversarial Examples by Translation-Invariant Attacks

Improving Transferability of Adversarial Examples with Input Diversity

在这里插入图片描述
论文地址：

SKIP CONNECTIONS MATTER: ON THE TRANSFERABILITY OF ADVERSARIAL EXAMPLES GENERATED WITH RESNETS

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

2、Query-based Adversarial Attack

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

论文地址：

DECISION-BASED ADVERSARIAL ATTACKS: RELIABLE ATTACKS AGAINST BLACK-BOX MACHINE LEARNING MODELS

A Ray Searching Method for Hard-label Adversarial Attack

ZOO: Zeroth Order Optimization Based Black-box Attacks to Deep Neural Networks without Training Substitute Models

Auto ZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks

Square Attack: a query-efficient black-box adversarial attack via random search

Black-box Adversarial Attacks with Limited Queries and Information

N ATTACK:Learning the Distributions of Adversarial Examples for an Improved Black-Box Attack on Deep Neural Networks

Improving Query Efficiency of Black-box Adversarial Attack

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

论文地址：

Adversarial Patch

Robust Physical-World Attacks on Deep Learning Visual Classification

在这里插入图片描述

论文地址：

Adversarial Camouflage: Hiding Physical-World Attacks with Natural Styles

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

论文地址：

BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
论文地址：

Towards Deep Learning Models Resistant to Adversarial Attacks

在这里插入图片描述

论文地址：

On the Convergence and Robustness of Adversarial Training

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

论文地址：

Adversarial Weight Perturbation HelpsRobust Generalization

在这里插入图片描述
论文地址：

Visualizing the Loss Landscape of Neural Nets

在这里插入图片描述
论文地址：

Understanding Adversarial Robustness Through Loss Landscape Geometries

INTERPRETING ADVERSARIAL ROBUSTNESS:A VIEW FROM DECISION SURFACE IN INPUT SPACE

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
论文地址：

Theoretically Principled Trade-off between Robustness and Accuracy

在这里插入图片描述

论文地址：

IMPROVING ADVERSARIAL ROBUSTNESS REQUIRES REVISITING MISCLASSIFIED EXAMPLES

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
论文地址：

Adversarial Neuron Pruning Purifies Backdoored Deep Models
在这里插入图片描述
论文地址：

Spectral Signatures in Backdoor Attacks

DEEP PARTITION AGGREGATION:PROVABLE DEFENSES AGAINST GENERAL POISONING
ATTACKS

Data Poisoning against Differentially-Private Learners: Attacks and Defenses

STRONG DATA AUGMENTATION SANITIZES POISONING AND BACKDOOR ATTACKS WITHOUT AN ACCURACY TRADEOFF

Neural Cleanse: Identifying and Mitigating Backdoor Attacks in Neural Networks

Fine-Pruning: Defending Against Backdooring Attacks on Deep Neural Networks

REFIT: A Unified Watermark Removal Framework For Deep Learning Systems With Limited Data

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

论文地址：

Feature Denoising for Improving Adversarial Robustness

在这里插入图片描述
在这里插入图片描述

论文地址：

Adversarial Examples Improve Image Recognition

在这里插入图片描述
在这里插入图片描述

论文地址：

Improving Adversarial Robustness via Channel-wise Activation Suppressing

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

论文地址：

Implicit Euler Skip Connections: Enhancing Adversarial Robustness via Numerical Stability

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
论文地址：

Unlearnable Examples: Making Personal Data Unexploitable

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

论文地址：

Unadversarial Examples: Designing Objects for Robust Vision

在这里插入图片描述
在这里插入图片描述

CV误会了我
关注
  • 3
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
人工智能-机器学习：对抗攻击与防御(Adversarial Attack and Defense)
u013250861的博客
11-29 6545
什么是对抗攻击与防御(Adversarial Attack and Defense) - 在实际的机器学期分类器中，更多的情况是用在实际生活中，很多时候实际系统会遇到很多的干扰、甚至是人为的蓄意攻击。如垃圾邮件等，我们需要让机器判别这些恶意攻击。 - 机器训练出来的模型不光性能要强，还要能够对抗人类的恶意、攻击。 - 现阶段，各种机器学习的模型很容易被攻击，但是不容易防御。 # 二、对抗攻击(Adversarial Attack) ## 1、对抗攻击(Adversarial Attack)的分类
valse2022 poster合集
01-19
β-DARTS- Beta-Decay Regularization for Differentiable Architecture Search Killing Two Birds with One Stone- Efficient and Robust Training of Face Recognition CNNs by Partial FC Neural MoCon- Neural Motion Control for Physically Plausible Human Motion Capture Box-Aware Feature Enhancement for Single Object Tracking on Point Clouds Mutual Information-driven Pan-sharpening Conceptual Compression via Deep Structure and Texture Synthesis Topic Scene Graph Generation by Attention Distillation from Cap
valse2016website:假2016网站
05-06
VALSE 2016网站 作者：王宏阳日期：2015.8.12 这是什么？ 这是VALSE2016的网站 测试版 请注意，该网站不是VALSE 2016的最终版本。任何人都不应正式在线发布该网站。 最终版本将在近期发布，其站点将在此处显示。
VALSE大会现场PPT
07-13
VALSE大会现场PPT 深度学习 计算机视觉 图像处理 人工智能 自动驾驶 自然语言处理 SLAM
Valse-2021会议报告：基于知识图的自动表示学习
03-29
1.什么是知识图（KG）？ 2.什么是自动机器学习（AutoML）？ 3.通过AutoML攻击KG中的核心问题 4.未来工作和总结
Square Attack:一种基于随机搜索和得分的黑盒攻击方法的原理以及代码实现
最新发布
v1716836592的博客
01-23 1659
Square Attack:一种基于随机搜索和得分的黑盒攻击方法的原理以及代码实现，论文:Square Attack: a query-efficient black-box adversarial attack via random search
基于图的对抗式攻击和防御（Adversarial attacks and defenses on graphs）.pdf
03-05
在这篇综述中，我们对目前的攻击和防御进行了分类，以及回顾了相关表现优异的模型。最后，我们开发了一个具有代表性算法的知识库，该知识库可以使我们进行相关的研究来加深我们对基于图的攻击和防御的理解。
高被引Top1团队综述：Adversarial Attacks and Defenses in Images, Graphs and Text: A Review【论文翻译】
honor
06-29 4312
     深度神经网络(DNN)逐渐代替传统模型，成为机器学习中最热门的工具，它已被成功应用于计算机视觉，自然语言处理等很多领域。然而，最近的研究表明，深度模型极容易被对抗样本攻击。人为稍微扰动模型的输入，可能导致模型给出完全相反的预测结果，从而出现差之毫厘、失之千里的错误。从此，对于深度模型在对抗样本的鲁棒性的研究成为机器学习的热门话题之一。 　　4月，IJAC于最新一期发表美国工程院院士、密歇根州立大学Anil K. Jain团队和Jiliang Tang 团队合作带来的特约综述，第一作者为密歇根州立大
CVPR2020 Adversarial Attack & Defense Summary（Part 1）
sydukee的博客
12-09 612
Alleviation of Gradient Exploding in GANs: Fake Can Be Real 解决问题：GAN的梯度爆炸、模式崩溃问题。 解决方法：在一个mini batch 中 close pairs 多的位置选取假样本，认定其为真样本，再进行训练，来有效防止不平衡分布的产生（FARGAN）。 Cooling-Shrinking Attack: Blinding the Tracker with Imperceptible Noises 解决问题：提出一种以无模型方式攻击单目标
对抗样本(论文解读四): Adversarial Attacks and Defenses in Images, Graphs and Text: A Review
Enjoy_endless
12-09 2948
准备写一个论文学习专栏，先以对抗样本相关为主，后期可能会涉及到目标检测相关领域。 内容不是纯翻译，包括自己的一些注解和总结，论文的结构、组织及相关描述，以及一些英语句子和相关工作的摘抄(可以用于相关领域论文的写作及扩展)。 平时只是阅读论文，有很多知识意识不到，当你真正去着手写的时候，发现写完之后可能只有自己明白做了个啥。包括从组织、结构、描述上等等很多方面都具有很多问题。另一个是对于专业术语、...
VALSE:VALSE（视觉与学习研讨会）中的幻灯片和演讲视频的集合
05-14
VALSE（Vision and Learning Seminar, VALSE）发起于2011年，是国内计算机视觉、图像处理、模式识别与机器学习等研究领域的青年学者、学生的一个高水平的学术交流舞台。VALSE 年度研讨会VALSE年度研讨会的主要目的是...
【视频学习】VALSE短课程《对抗攻击与防御》byXingjun Ma
weixin_55703970的博客
10-10 251
2020年的新兴领域……唉
网络与系统安全4.1 基于随机搜索的黑盒对抗攻击方法
爱学习爱运动的专栏
05-30 742
1 摘要 神经网络模型容易受到对抗样本的攻击，根据攻击者是否能获取到模型内部参数可以把攻击类型分为白盒攻击和黑盒攻击。 白盒攻击比较常见，但其对目标模型的威胁程度要远低于黑盒攻击。 传统黑盒攻击往往都是基于梯度实现的，并且具有查询次数高、攻击时间长以及成功率低的缺点。 针对这一问题，本文讨论了一种高效查询的黑盒对抗攻击算法，该黑盒攻击也被称为平方攻击，具体内容如下： 平方攻击选择局部方形更新在随机位置，以便在每次迭代中，扰动大约位于可行集的边界处； 平方攻击是一种基于分数的黑盒对抗攻击，具有不依赖于模
AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks
hunt_chen的博客
11-21 5034
AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks Abstract 最近的研究表明，当目标模型被称为白盒设置（white box setting）时，由深度神经网络（DNN）训练的最先进图像分类器中的对抗样本可以很容易地生成。然而，当攻击已部署的机器学习服务时，只能获取目标模型的输入输出对应关系；这就是所谓的黑箱攻击设置。**现有黑盒攻击的主要缺点是需要过多
论文那些事—NESTEROV ACCELERATED GRADIENT AND SCALEINVARIANCE FOR ADVERSARIAL ATTACKS
shuweishuwei的博客
12-06 4206
NESTEROV ACCELERATED GRADIENT AND SCALE INVARIANCE FOR ADVERSARIAL ATTACKS（ICRL2020,NI-FGSM,SIM） 1、摘要 在本文中，我们从将对抗性例子的生成作为一个优化过程的角度出发，提出了两种提高对抗性例子可转移性的新方法，即Nesterov迭代法快速梯度符号法(NI-FGSM)和缩放不变攻击法(SIM)。NI-FGSM的目标是将Nesterov加速梯度引入迭代攻击中，从而有效地向前看，提高对抗性样本的迁移性。 本文贡
【深度】北大王奕森：对抗机器学习的鲁棒、隐私和架构
BAAIBeijing的博客
03-16 3653
第九届国际学习表征大会（ICLR 2021）是深度学习领域的国际顶级会议。在正式会议召开之前，青源Seminar于2月19日-21日成功召开了ICLR 2021 中国预讲会。回放链接：hu...
《Adversarial Attack and Defense》对抗攻击/防御报告观看笔记
挑食de猪队友的博客
06-13 991
报告摘要：本报告主要介绍对抗机器学习领域的研究进展。包括但不限于以下几部分：1）两种白盒攻击的思路；2）基于迁移和查询的黑盒攻击；3）对抗防御中的对抗训练及其变种；4）鲁棒的神经网络结构；以及5）对抗向善的一些示例。...
李宏毅学习笔记19.Attack and Defense
老毛的博客
04-21 1236
文章目录简介Attack（重点）做法Loss Function for Attack约束的定义如何攻击例子小结其他方法Attack ApproachesFGSMWhite Box v.s. Black BoxBlack Box AttackUniversal Adversarial AttackAdversarial ReprogrammingAttack in the Real WorldDef...
论文阅读—Square Attack: a query-efficient black-box adversarial attack via random search
yayayamaomaoya的博客
05-21 1773
论文阅读—Square Attack: a query-efficient black-box adversarial attack via random search 发表位置 ECCV 2020 摘要 作者提出了一种基于得分的黑盒Square attack，该模型不依赖于模型的局部梯度信息，因此可以绕过梯度隐藏防御攻击。Square Attack是一种随机搜索方法，它在随机位置选择局部的方形更新，使得每次迭代时扰动近似位于可行集的边界。 背景 当涉及到对安全至关重要的机器学习应用时，对抗性的例子尤其值得
诺基亚原版来电铃声mp3
01-15
这首铃声的名字叫做"Grande valse"，是由西班牙作曲家弗朗西斯科·塔雷加所创作的吉他曲。这首曲子被改编成手机铃声后，成为了诺基亚手机的标志性铃声，让许多人听到它就能立刻联想到诺基亚的手机。 这首铃声在2000...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值