论文阅读笔记： 2019 ICCV 《Improving Adversarial Robustness via Guided Complement Entropy》

最新推荐文章于 2023-11-26 16:17:12 发布
最新推荐文章于 2023-11-26 16:17:12 发布
阅读量1k 收藏 3
点赞数
分类专栏： 论文阅读笔记 文章标签： 对抗学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37932351/article/details/103424303
版权

2019 ICCV 《Improving Adversarial Robustness via Guided Complement Entropy》

Introduction

作者提出以往的防御方法有两点不足：1. 需要额外的流程来或者额外的模型来使目标模型更加鲁棒，这样会导致不灵活和计算负担的问题。 2. 鲁棒性的提升是以性能的下降为代价。 然后作者提出了一种新的训练目标函数 “Guided Complement Entropy”
(GCE) 来使模型在没有额外训练流程的情况下加强对抗鲁棒性。

Guided Complement Entropy

Guided Complement Entropy 建立在已有方法Complement Entropy的基础上，其表达式为：
在这里插入图片描述
符号如下：
在这里插入图片描述
简单来说，这个函数表示了模型在ground-truth class 以外类别的预测概率的熵，并且损失在所有预测概率一致时最小。

作者提出的新损失函数为：
在这里插入图片描述
与公式（1）相比，增加了 guiding factor y ^ i g a \hat{y}^a_{ig} y^​

最低0.47元/天 解锁文章
m0_37932351
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Complement-Cross-Entropy:具有互补交叉熵的不平衡图像分类（Pytorch）
03-18
Complement-Cross-Entropy:具有互补交叉熵的不平衡图像分类（Pytorch）
Python实现Complement Entropy Loss 参考 ICLR 2019论文 COMPLEMENT OBJECTIVE TRAINING
Bill_zhang5的博客
03-22 883
import numpy as np def zero_hot(labels_dense, num_classes): """Convert class labels from scalars to one-hot vectors.""" num_labels = labels_dense.shape[0] index_offset = np.arange(...
【Paper笔记】Complement Objective Training
qq_36663791的博客
12-09 1102
论文：《Complement Objective Training》 论文原文链接： version 2 会议：ICLR 2019 Code：Github 观前提示：Paper笔记系列内容可能掺杂笔者的理解以及想法，如表述有误或希望进一步探讨，欢迎评论或通过简介附的邮箱联系 前言 这篇Paper（简称COT）建议与同作者文献 《Improving Adversarial Robustness vi...
《Improving adversarial robustness via channel-wise activation suppressing》详细解读
最新发布
red_guy的博客
11-26 928
本文从的方面发现了对抗样本具有如下特征：1.对抗样本的activation magnitudes高于自然样本。2.对抗样本比样本更能uniformly的activate channel。在我们的研究中，发现对抗训练解决了第一个问题**本文的想法：**基于Channel-wise Activation Suppressing (CAS)的方法压缩冗余的激活。
广义交叉熵 GCE Generalized Cross Entropy Loss 的解释
t20134297的博客
04-18 2552
Generalized Cross Entropy Loss for Training Deep Neural Networks with Noisy Labels 论文链接：https://arxiv.org/pdf/1805.07836.pdf GCE的定义如下所示： Lq(f(x),ej)=(1−fj(x)q)qL_q(f(x),e_j)=\frac{(1-f_j(x)^q)}{q}Lq​(f(x),ej​)=q(1−fj​(x)q)​ MAE损失定义如下： LMAE(f(x),ej)=2(1−fj(
图像超分入门必备：2019ICCV图像超分ICCV论文集合
01-02
接着是“5Zhang_RankSRGAN_Generative_Adversarial_Networks_With_Ranker_for_Image_Super-Resolution_ICCV_2019_paper.pdf”，这篇论文介绍了一种名为RankSRGAN的生成对抗网络，该网络引入了排名损失，以增强生成...
USSS_ICCV19:ICCV 2019接受通用半监督语义分割模型代码的论文
03-11
ICCV 2019接受通用半监督语义分割代码。 全文见 。 要求 Python> = 2.6 PyTorch> = 1.0.0 ImageNet预训练的模型是从的存储库下载的。 数据集 城市景观： ： IDD： ： 怎么跑 python segment.py --basedir ...
Self-Guided-Network-for-Fast-Image-Denoising:ICCV 2019论文SGN的PyTorch实施
05-07
培训策略与论文相同。 您可以使用以下脚本对自己的数据进行训练（请注意，您需要修改数据集路径）： cd SGN python train.py or sh zyz.sh 测验 我使用ILSVRC2012验证集对4个NVIDIA TITAN Xp GPU进行了培训，并在1...
Awesome-ICCV:ICCV2019最新录用情况
05-11
Awesome-ICCV2019 更新所有录用论文（已更新1000余篇ICCV2019论文） Last updated: 2021/01/25 【计算机视觉联盟】回复【ICCV2019】即可获得百度云所有论文下载链接 Update log 2019/07/26 * - 更新28篇IIAI录用论文...
PCA-GM:ICCV 2019口头论文代码
05-22
该存储库包含我们ICCV 2019论文的PyTorch实施（用于口头演示）： 它包含以下深图匹配方法的实现： GMN Andrei Zanfir和Cristian Sminchisescu，“图匹配的深度学习”。 CVPR 2018。 PCA-GM Wang Runzhong Wang，...
Improving Adversarial Robustness via Channel-Wise Activation Suppressing
MTandHJ的博客
07-21 715
文章目录概主要内容代码 Bai Y., Zeng Y., Jiang Y., Xia S., Ma X., Wang Y. Improving adversarial robustness via channel-wise activation suppressing. In International Conference on Learning Representations (ICLR), 2021. Yan H., Zhang J., Niu G., Feng J., Tan V., Sugi
【今日CV 计算机视觉论文速览】 26 Mar 2019
TomRen
03-26 1629
今日CS.CV计算机视觉论文速览 Tue, 26 Mar 2019 Totally 78 papers Daily Computer Vision Papers 1.Title: DeepCenterline: a Multi-task Fully Convolutional Network for Centerline ExtractionAuthors:Zhihui Guo, Jun...
文献阅读--Certified Adversarial Robustness via Randomized Smoothing
热门推荐
学渣的博客
04-22 2万+
关键词：adversarially robust; Gaussian noise; L2-norm; randomization 这里写自定义目录标题1 概述2 背景2.1 研究现状3 挑战 1 概述 本文通过给分类器高斯噪声处理，使得新分类器对对抗攻击足够鲁棒。本文提出了“randomized smoothing” 技术并对其进行了严密的分析，进一步揭示了L2正则项和高斯噪声的联系：==我们使用该技术来训练ImageNet分类器，例如，在l2范数小于0.5(=127/255)的对抗扰动下，认证的最高准确度
2021-06-21交叉熵的意义
huatianxue的博客
06-21 98
分类的话，这样的话，可以使得收敛更加快 回归的话，使用二次函数更好
交叉熵损失函数优缺点_用了那么久的交叉熵损失真的是最好的么？
weixin_42450002的博客
12-15 1542
论文地址。这篇文章的中心思想其实特别简单，就是标准的分类问题训练损失函数是只考虑每个样例ground-truth的概率大小，都在最大化这些ground-truth的似然函数（普通分类的交叉熵损失如下，g代表ground-truth的类，两个yi中前者是一个one-hot表示正确类别的位置，后者表示模型predict出来在所有类别上的概率大小，因此这里是向量的乘法。最后得到的结果是只关心正确类别的概...
科研篇四：对抗样本20篇-ICML2019
weixin_38316806的博客
10-22 1688
文章目录一、对抗攻击（Adversarial Attack）1.1.Adversarial Attacks on Node Embeddings via Graph Poisoning1.2.Adversarial camera stickers: A physical camera-based attack on deep learning systems二、对抗防御2.1.Using Pre-...
Graph Context Encoder: Graph Feature Inpainting for Graph Generation and Self-supervised Pretraining
grove976的博客
11-20 2305
0 摘要 我们提出了 Graph Context Encoder (GCE)，这是一种简单但有效的基于图特征屏蔽和重建的图表示学习方法。GCE 模型经过训练可以有效地重建输入图，类似于图自动编码器，其中节点和边标签被屏蔽。特别是，我们的模型还允许通过屏蔽和重建随机伪边增强的图来改变图结构。 1 介绍 我们在这里假设通过随机扰动和重建来生成训练图的小变化的任务。除了图生成，我们还提出了掩码图的自监督重建，作为促进监督图分类的代理任务。 2 相关工作 Gao and Ji 受计算机视觉中U-Net模型的启发，他
【学习笔记】基于元学习的噪声鲁棒网络训练（噪声转移矩阵估计）
Ace2NoU的博客
01-01 2730
这是一篇CVPR2020的论文，论文地址： Training Noise-Robust Deep Neural Networks via Meta-Learning (thecvf.com)https://openaccess.thecvf.com/content_CVPR_2020/papers/Wang_Training_Noise-Robust_Deep_Neural_Networks_via_Meta-Learning_CVPR_2020_paper.pdf Abstract 摘要 标签噪声可

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值