Open-set Adversarial Defense

最新推荐文章于 2022-12-08 11:16:01 发布
最新推荐文章于 2022-12-08 11:16:01 发布
阅读量517 收藏
点赞数
分类专栏： Adversarial Defense 文章标签： 对抗防御 图像分类
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_36059653/article/details/116521464
版权

Open-set Adversarial Defense

文章目录

背景

1、Open-set 的识别模型易受对抗攻击的影响
2、在闭集上训练的一些对抗防御方法不能很好地泛化到开放集

本文提供的方法无论在闭集上还是在开放集中，对抗样本的准确率都会提升。
在这里插入图片描述

proposed method

在这里插入图片描述
本文提出的方法包括4个CNN模块：

  • encoder： 提取添加扰动攻击后的对抗样本的潜在特征，带特征去噪层（移除对抗噪声）
  • decoder: 根据encoder提取到的特征进行noise-free图像重建。由此得到了重建后的图像与原图像的Reconstruction Loss（Lrec）
  • open-set classifier: 开放集的分类器。由此得到了Classification Loss (Lcls)
  • transformation classifier: 对原图像进行随机变换后再添加对抗扰动，然后通过转换分类器进行分类。由此得到了Self-supervision Loss (Lssd)
Noise-free Feature Encoding

一般分类CNN模型的前半部分，但是在每一层后面添加了一个去噪层。本文CNN模型基于resnet18，去噪层用的是基于non-local means filter的Gaussian（softmax）。

Open-set Classification

开放集的分类器与一般的分类器一样，但是在Full Connection层后添加了OpenMax层。分类器用来分类被扰动后的已知类别和未知类别的样本。
开放集分类器的交叉熵损失：

最低0.47元/天 解锁文章
爽儿歪歪歪
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Open-set Adversarial Defense with Clean-Adversarial Mutual Learning
pingguolou的博客
06-06 262
用干净的对抗性学习进行开放集对抗性防御摘要开放集识别和对抗性防御研究了深度学习的两个关键方面，这对现实世界的部署至关重要。开放集识别的目的是在测试过程中识别开放集类的样本，而对抗性防御的目的是使网络对受不可察觉的对抗性噪声干扰的图像具有鲁棒性。在这些观察的激励下，我们强调了开放集对抗性防御（OSAD）机制的必要性。本文提出了一个带有清洁对抗相互学习（OSDN-CAML）的开放集防御网络作为OSAD问题的解决方案。所提出的网络设计了一个带有双注意特征去噪层的编码器，与一个分类器一起学习无噪音的潜在特征表示，它
Adversarial Defense by Restricting the Hidden Space of Deep Neural Networks
MTandHJ的博客
07-11 536
文章目录概主要内容 Mustafa A., Khan S., Hayat M., Goecke R., Shen J., Shao L., Adversarial Defense by Restricting the Hidden Space of Deep Neural Networks, arXiv preprint arXiv:1904.00887, 2019. 代码 概 类似的, 是large margin的思想, 亮点是多层? 主要内容 以下, flf^lfl表示第lll层的输入, fff为最
基于图的对抗式攻击和防御（Adversarial attacks and defenses on graphs）.pdf
03-05
在这篇综述中，我们对目前的攻击和防御进行了分类，以及回顾了相关表现优异的模型。最后，我们开发了一个具有代表性算法的知识库，该知识库可以使我们进行相关的研究来加深我们对基于图的攻击和防御的理解。
pcl-adversarial-defense:在ICCV 2019中通过限制深度神经网络的隐藏空间进行对抗性防御
03-16
通过限制深层神经网络（ICCV'19）的隐藏空间进行对抗性防御 该存储库是ICCV'19论文《的PyTorch实施，它。 为了对抗对抗性攻击，我们提出了原型一致性损失，以按类别区分深度网络的中间特征。 从图中可以看出，存在这样的对抗样本的主要原因是潜在特征空间中学习特征的紧密接近。 我们提供了用于重现论文结果的脚本。 克隆存储库 将此存储库克隆到所需的任何位置。 git clone https://github.com/aamir-mustafa/pcl-adversarial-defense cd pcl-adversarial-defense Softmax（交叉熵）训练 为了加快针对我们提出的损失形成聚类的过程，我们首先使用交叉熵损失训练模型。 softmax_training.py （用于初始softmax训练）。 经过培训的检查点将保存在Models_Softmax文
Adversarial Examples: Attacks and Defenses for Deep Learning
02-20
2019 review and taxonomy on adversarial examples and defenses
Data-Free Adversarial Perturbations forPractical Black-Box Attack.pdf
04-17
实用黑箱攻击的无数据对抗扰动PDF论文，发表于2020-03-03 神经网络容易受到对抗性示例的攻击，这些示例是为欺骗预先训练的模型而设计的恶意输入。对抗性示例经常表现出黑匣子攻击的可转移性，这使得为一个模型设计的...
pytorch-adversarial-examples:对抗性范例的PyTorch实现
05-10
对抗性例子 PyTorch实施以下算法： 快速梯度符号法（FGSM）[1] 基本迭代方法（BIM）[2] 傻瓜[3] 先决条件 的Python 3.5.2 PyTorch 0.4.0 火炬视觉0.2.1 NumPy 1.14.3 ...$ python main.py ... 标签：7
Unpaired Image-to-Image Translationusing Cycle-Consistent Adversarial Networks
07-20
Cycle-gan
Decision-Based Adversarial Attack With Frequency Mixup
11-16
【决策基对抗攻击与频域混频】 深度神经网络（DNNs）在计算机视觉、语音识别等众多领域已经超越了传统的机器学习方法，但它们对对抗性示例的脆弱性是一个显著的问题。对抗性攻击是指通过微小的输入扰动来欺骗DNN...
论文阅读——Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses
yayayamaomaoya的博客
05-26 671
白盒攻击 Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses 文章连接 https://papers.nips.cc/paper/2020/file/ea3ed20b6b101a09085ef09c97da1597-Paper.pdf 代码连接 Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses | Paper
Efficient Defenses Against Adversarial Attacks
10-04
Deep learning has proven its prowess across a wide range of computer vision applications, from visual recognition to image generation [17]. Their rapid deployment in critical systems, like medical imaging, surveillance systems or security-sensitive applications, mandates that reliability and security are established a priori for deep learning models. Similarly to any computer-based system, deep learning models can potentially be attacked using all the standard methods (such as denial of service or spoofing attacks), and their protection only depends on the security measures deployed around the system. Additionally, DNNs have been shown to be sensitive to a threat specific to prediction models: adversarial examples. These are input samples which have deliberately been modified to produce a desired response by a model (often, misclassification or a specific incorrect prediction which would benefit the attacker)
openmax实现
09-11
openmax实现 包装了，ffmpeg，libogg,libmad,写了读取，解复用，解码，slink等组件。
Open-Set-Recognition:开放集识别
03-18
公开集识别项目 使用PyTorch进行的开放集识别项目。 如有任何问题，请发送电子邮件 注意：由于我的实验性实现（特别是我的方法），需要重新构造。 要求 对于不同的算法和不同的数据集，要求会有所不同。通常，基本和必不可少的要求是： # pytorch 1.4+, torchvision 0.7.0 + pip3 install torch torchvision # sklearn pip3 install -U scikit-learn # numpy pip3 install numpy # scikit-learn-0.23.2 pip3 install -U sklearn 对于OpenMax： pip3 install libmr 对于绘制MNIST： pip3 install imageio pip3 install tqdm 配套 数据集 CIFAR-100（完成）
Provable Defenses against Adversarial Examples via the Convex Outer Adversarial Polytope
哟哟哟哟哟哟
08-19 1345
这篇文章讲了防御对抗样本的一个方法。 对抗样本是在原有的样本上加了一个人不可区分的微小扰动，使机器学习算法产生错误的结果。 一般用范数开衡量扰动和原样本之间距离。关于范数 如下图，最左边图中黑色的点代表原样本，周围的蓝色区域表示对抗样本。 如果要检测出对抗样本，直观上就是要求出这个蓝色的边框。但是经过神经网络之后，蓝色边框变得不规则。 这篇文章的主要思想就是用求蓝色多边形边框的凸近似...
ICLR 2021 | 使用CVAE学习干扰集，增强OOD以及对抗防御的能力
Paper weekly
08-03 454
©PaperWeekly 原创 ·作者|张一帆学校|中科院自动化所博士生研究方向|计算机视觉本文主要介绍对抗攻击/防御的基本概念和一篇论文的亮点。论文标题：Learning ...
【开集识别论文解读】Few-Shot Open-Set Recognition using Meta-Learning——CVPR2020
cute_cxy的博客
06-03 2434
本文介绍了一种新的开集元学习算法（PEELER）算法，实验结果表明，PEELER在小样本和大规模识别方面都达到了最先进的开放集识别性能。开集识别目前主要的研究是在大规模环境中，使用基于大规模分类器的解决方案。这些尝试通过后处理后验类分布来识别新类，定义一个“拒绝”类，该类使用人工生成的示例或从训练类中采样的示例，或两者的组合进行训练。本文试图将开集识别推广到大规模环境之外：大规模和小样本识别。......
ECCV2020—对抗防御Paper List
Xia YuFeng的博客
08-26 279
Regional Homogeneity: Towards Learning Transferable Universal Adversarial Perturbations Against Defenses Adversarial Ranking Attack and Defense Segmentations-Leak: Membership Inference Attacks and Defenses in Semantic Image Segmentation Anti-Bandit Neural.
开集识别学习笔记（一）--《Towards Openset Deep Networks 》中文精校与理解
weixin_54800645的博客
12-08 2227
2016CVPR《Towards Openset Deep Networks》
Self-supervised Learning of Motion Capture阅读笔记
qq_40045309的博客
05-04 1625
备注： 1.作者 Hsiao-Yu Fish Tung，Katerina Fragkiadaki 卡耐基梅隆大学 一、概述 1. abstract （1） 跟直接优化mesh and skeleton 的参数不一样的是，我们通过优化网络的权重来预测一个 monocular RGB video中的3D shape and skeleton 的配置； （2） 模型采用end-to-end ...
unpaired image-to-image translation using cycle-consistent adversarial networks
最新发布
03-16
Cycle-Consistent Adversarial Networks(CycleGAN) 是一种用于不匹配图像转换的深度学习方法。它使用了两个生成器和两个判别器，通过循环一致性约束来学习转换。这种方法可以在没有对应训练数据的情况下进行图像转换，如将日景转换为夜景。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值