[论文笔记]Interpreting and Evaluating Neural Network Robustness

最新推荐文章于 2022-08-14 15:34:00 发布
最新推荐文章于 2022-08-14 15:34:00 发布
阅读量413 收藏
点赞数 2
文章标签： 深度学习 对抗攻防 可解释性
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43972712/article/details/102872510
版权
本文探讨了神经网络的鲁棒性解释和度量，提出了损失可视化的策略，包括决策面可视化和量化指标，以评估对抗攻击下的模型表现。实验表明，即使模型在分类准确率上表现良好，也可能存在对小扰动敏感的问题，从而揭示了鲁棒性的复杂性。此外，文章还提出了修正的P(x)计算方法，以避免模型重新参数化带来的问题。
摘要由CSDN通过智能技术生成

研究背景

相比于广泛研究的神经网络对抗攻防方法，神经网络的鲁棒性很少有研究人员进行解释，因此需要一种手段对其进行解释并提供度量方法。

本文贡献

  • 本文提出了一种可视化loss的方法对对抗攻击和防御及模型鲁棒性进行解释。
  • 本文提出了一种度量神经网络鲁棒性的指标，并通过实验证明这种量化指标优于分类准确率这一评判指标。

主要方法

1、Loss可视化

loss是与输入x和神经网络参数 θ \theta θ相关的数据，但二者的维度过高，因此，需要将loss在2D空间可视化，由以下公式给出可视化规则：
在这里插入图片描述
其中，F为使用的Loss函数，如交叉熵等；o为原点，代表原始图片， α \alpha α、 β \beta β代表两个单位向量，即可视化空间的基向量；i、j为可视化空间中的某点。该方法为在input空间中寻找对应的loss。

（1）决策面可视化

最低0.47元/天 解锁文章
study0098
关注
卷积神经网络（CNN）简介：Convolutional Neural Networks (CNNs) Intro
程序员光剑
08-07 798
作者：禅与计算机程序设计艺术Convolutional Neural Networks (CNNs) have become one of the most popular deep learning models for image classification tasks. In recent years, they have revolutionized computer vision and are widely used in applications such as object recogni
AAAI 2022 论文列表
热门推荐
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
学习摘要：Methods for interpreting and understanding deep neural networks
iyangdi的博客
11-28 1067
原文： Methods for interpreting and understanding deep neural networks 博客内容： 关于该文章的学习摘要 http://download.csdn.net/download/iyangdi/10136028
Network robustness
Hacker_ccc的博客
08-14 373
介绍了网络的稳健性/鲁棒性，找到割边或割点
[paper]Towards Evaluating the Robustness of Neural Networks(C&W)
weixin_43150428的博客
05-08 514
本文提出了针对Denfensive distillation这种防御措施的C&W算法（基于三种不同距离的对抗样本生成算法），同时也具有一定的迁移性。 本文把构建对抗样本的过程转化为一个最优化问题： 其中DDD是衡量原始图像与对抗样本之间的距离, 三种不同距离分别为L0L_{0}L0​范数L2L_{2}L2​范数和L∞L_{\infty }L∞​范数。 但由于C(x+δ)=tC(x+δ)=tC(x+δ)=t这个问题很难直接求解，因此作者通过构造函数f(x,t)f(x,t)f(x,t) 使得在f(x,
16.08.24-robustness, rewiring, bimodal network
Go your sister's signature
08-25 524
Bypass rewiring and robustness of complex networksdocumentAbstract Bypass rewiring makes networks robust against removal of nodes including random failures and attacks. the even degree network is more
Evaluating Model Overfitting and Underfitting: Diagnosis and Solutions
# Model Overfitting and Underfitting: Diagnosis and Solutions ## 1. Concepts of Model Overfitting and Underfitting ### Definitions of Model Overfitting and Underfitting In machine learning, model ...
（八：2020.08.27）CVPR 2020 追踪之论文纲要（译）
Jojo论文基地
08-27 1万+
CVPR 2019 追踪之论文纲要（修正于2020.08.27）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这1400篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 Respect！ 论文目录 论文 概要 12-in-1 - Multi-Task Vision and Language Repre
Paper笔记： 《Towards Evaluating the Robustness of Neural Networks》（CW攻击）
weixin_37627840的博客
03-04 837
论文： https://arxiv.org/pdf/1608.04644.pdf?source=post_page 代码：https://github.com/Harry24k/CW-pytorch Motivation   又是一篇对抗攻击领域的基石之作，论文的思路主要针对当时最强的防御方法——防御性蒸馏。在当时，几乎所有的攻击方法都无法攻破防御性蒸馏，而本文的方法在面对防御性蒸馏时，取得了几乎100%的攻击成功率，这也再一次推动了对抗攻防算法的演进。 Contribution   作者提出了一种新的攻击
论文引介 | Understanding Neural Networks
人工智能
04-09 6569
文章原名：Understanding Neural Networks through Representation Erasure 作者：Jiwei Li, Will Monroe and Dan Jurafsky 单位：斯坦福大学 原文地址： https://arxiv.org/pdf/1612.08220v3.pdf（可戳下方阅读原文） 1 导读 在这
论文阅读：Making Deep Neural Networks Robust to Label Noise: a Loss Correction Approach（2017CVPR，前后向校正）
qq_37746927的博客
01-26 1162
噪声标签表征学习
【学习笔记】基于元学习的噪声鲁棒网络训练（噪声转移矩阵估计）
Ace2NoU的博客
01-01 2823
这是一篇CVPR2020的论文，论文地址： Training Noise-Robust Deep Neural Networks via Meta-Learning (thecvf.com)https://openaccess.thecvf.com/content_CVPR_2020/papers/Wang_Training_Noise-Robust_Deep_Neural_Networks_via_Meta-Learning_CVPR_2020_paper.pdf Abstract 摘要 标签噪声可
【Noise-Label】《Learning from Noisy Labels with Deep Neural Networks》
bryant_meng
04-16 4192
arXiv-2014 文章目录1 Background and Motivation2 Advantages3 Innovations4 Method4.1 Bottom-up Noise Model4.2 Estimating Noise Distribution Using Clean Data4.3 Learning Noise Distribution From Noisy Data...
2021年最新-可解释机器学习相关研究最新论文、书籍、博客、资源
lqfarmer的博客
02-08 1132
理解（interpret）表示用可被认知（understandable）的说法去解释（explain）或呈现（present）。在机器学习的场景中，可解释性（interpretability）就表示模型能够使用人类可认知的说法进行解释和呈现。[Finale Doshi-Velez] 机器学习模型被许多人称为“黑盒”。这意味着虽然我们可以从中获得准确的预测，但我们无法清楚地解释或识别这些预测背后的逻辑。但是我们如何从模型中提取重要的见解呢？要记住哪些事项以及我们需要实现哪些功能或工具？这些是...
攻防方法
womendouhenqiang的博客
07-11 405
抓取别人的数据包有几种办法，第一种是你和别人共同使用的那个交换机有镜像端口的功能，这样你就可以把交换机上任意一个人的数据端口做镜像，然后你在镜像端口上插根网线连到你的网卡上，你就可以抓取别人的数据了；第二种，把你们局域网的交换机换成一个集线器，这样的换所有的数据包都是通发的，也就是说，不管是谁的数据包都会路过这个集线器上的每一个计算机，只要你将网卡设置为混杂模式就能抓到别人的包；第三种，利用MAC
Interpreting Statistics
cneo2012的博客
05-30 127
Some pitfalls are discussed in the following sections:■ Hit ratios■ Wait events with timed statistics■ Comparing O...
generic attention-model explainability for interpreting bi-modal and encoder
最新发布
01-10
通用注意力模型可解释性用于解释双模态和编码器的工作原理。双模态指的是通过多种输入方式，比如图像和文本，来提供信息。编码器则是用于将输入数据转换成特定形式的神经网络组件。 通用注意力模型是一种用于深度...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值