Interpretable Convolutional Neural Networks笔记

最新推荐文章于 2023-07-07 21:52:56 发布
最新推荐文章于 2023-07-07 21:52:56 发布
阅读量3.5k 收藏 4
点赞数 2
分类专栏： 机器学习 文章标签： 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kaka19880812/article/details/78300149
版权

通过mask使得网络部分激活

mask的数值以一点为中心的L1或L2距离衰减，值域范围是tau到-tau

最小化的目标是负X（feature map）和T（template）的互信息（希望互信息大，X和T相关性高），计算条件概率p(X|T)使用softmax转换的X和T的相似度（X和T的dot）

forward过程选择X乘T再经过relu之后和最大的template，而且要求template的label和数据label一致

template的类型选择为X最大的类型（对所有该类型的X求和）

计算loss中使用一些近似加速计算（对一些变量多个step更新一次等）

loss鼓励template只被一类输入数据激活，以及template中的激活区域尽量少

可视化时，选取值大于阈值的结果，例如选取前千分之五的结果

为了在大小上（或者说分辨率上）和原图像对齐，feature map X通过双线性插值扩展到原图像的维度

kaka19880812
关注
  • 2
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
matlabcnn代码详解-interpretableCNN:可解释的CNN
05-21
Matlab CNN代码详解可解释的卷积神经网络 python代码已在发布，尽管我的研究小组未实现该代码。 下面的Matlab代码是与论文对应的原始代码。 介绍 本文提出了一种将传统卷积神经网络（CNN）修改为可解释的CNN的方法，以阐明CNN的高卷积层中的知识表示。 在可解释的CNN中，高转换层中的每个过滤器代表某个对象部分。 我们不需要对象部分或纹理的任何注释来监督学习过程。 相反，可解释的CNN在学习过程中会自动在高转换层中为每个过滤器分配一个对象部分。 我们的方法可以应用于具有不同结构的不同类型的CNN。 可解释的CNN中清晰的知识表示可以帮助人们理解CNN内部的逻辑，即，基于CNN做出决定的模式。 实验表明，可解释的CNN中的过滤器比传统CNN中的过滤器在语义上更有意义。 引文 如果使用此代码，请引用以下两篇论文。 张全世，吴应年和朱松春，“可解释的卷积神经网络”，在CVPR 2018中 张全石，王鑫，吴应年，周慧琳和朱松春，“可移植的CNN用于对象分类”，《 IEEE模式分析和机器智能交易》，2020年。DOI：10.1109 / TPAMI.2020.2982882 代码
论文笔记：Interpretable Convolutional Neural Networks
xihua0823的博客
12-13 2450
前向传播 对于每一个输入图像I，CNN在Relu操作之后计算filter f 的特征图x，其中x是nxn的矩阵，xij>0。估计目标部分在特征图x的潜在位置是激活最强的神经单元。根据最强的估计位置μ，CNN分配特定的淹没以过滤掉噪声激活。由于f的对应对象部分可能出现在图像的n2个不同位置，我们为f设计了n2个不同的模板{Tμ1，Tμn2}.如图3所示，每一个模板T都是一个nxn的矩阵。当目标部位主要触发了x中的第i个单元时，它描述了特征图x激活的理想分布。我们从n2个中选择模板T作为掩膜。 图4可视化
神经网络的可解释性综述【A Survey on Neural Network Interpretability】
lance～crazy
07-24 1235
人工智能可解释性的背景意义 1.1 什么是可解释性 Interpretability (of a DNN) is the ability to provide explanations in understandable terms to a human. F Doshi-Velez & B Kim, 2017 解释（Explanations），是指需要用某种语言来描述和注解 理想情况下，严谨的数学符号-逻辑规则是最好的解释（D Pedreschi et al., 2019）。实际上人们往往不强求“
论文写作准备（二）—— 《Interpretable Convolutional Neural Networks》阅读
weixin_37799689的博客
08-08 1454
摘要：提出了一种将传统卷积神经网络(CNNs)修改为可解释的方法。为了阐明神经网络高级卷积层中的知识表示。在可解释CNN中，深层卷积层中的每个滤波器代表一个特定的对象部分。我们的可解释CNNs使用与普通CNNs相同的训练数据，而不需要对对象部分或纹理进行额外的注释来进行监督。这说明在学习过程中，CNN自动给深层卷积层中的每个滤波器分配一个对象部分。我们可以将我们的方法应用于不同类型、不同结构的神经网络。在可解释的CNN中，显性的知识表示可以帮助人们理解CNN内部的逻辑，即CNN记忆了哪些模式来进行预测。实验
深度学习—卷积神经网络（Convolutional Neural Networks）
qq_28505705的博客
11-12 7229
卷积神经网络（Convolutional Neural Networks） 卷积神经网络（convolutional neural network, CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。例如时间序列数据（可以认为是在时间轴上有规律地采样形成的一维网格）和图像数据（可以看作是二维的像素网格）。卷积网络在诸多应用领域都表现优异。“卷积神经网络’’ 一词表明该网络使用了卷积（c...
Disentangled Graph Convolutional Networks解耦图卷积神经网络 ICML 2019
qq_40491207的博客
03-24 4608
文章目录相关介绍摘要main contributionsDisenGCN: the Proposed Model1. DisenConv 的基本假设2. The DisenConv Layer理论分析 论文链接：http://proceedings.mlr.press/v97/ma19a.html 相关介绍 摘要 真实世界的图通常是在许多潜在因素的高度复杂交互作用下产生的。现有的图结构数据深度学习...
图神经网络（二十七）Disentangled Graph Convolutional Networks，ICML2019
qq_36618444的博客
09-21 1053
Introduction 本文旨在研究从GNN的传播过程中解耦影响邻居信息传递的潜在因子，引入了解纠缠图卷积网络(DisenGCN)来学习解纠缠节点表示。此外，提出了一种新的邻域路由机制，该机制能够动态地识别可能导致节点与其某个邻域之间产生边缘的潜在因素，并据此将该邻域分配给一个信道，该信道提取并卷积特定于该因素的特征。从理论上证明了路由机制的收敛性。实验结果表明，我们提出的模型可以获得显著的性能增益，特别是当数据显示存在许多纠缠因素时。 可以以推荐系统中例子说明潜在因子是什么。比如，当用户节点uuu与..
卷积神经网络 Convolutional Neural Network ｜ CNN
JasonH2021的博客
07-07 3502
介绍了卷积神经网络的基本思想，应用场景，优缺点，建模过程中的注意事项，研究课题，实现的类库方法和代码案例等
CSGCNN:“通过区分特定于类的过滤器来训练可解释的卷积神经网络”的代码
05-18
title={Training Interpretable Convolutional Neural Networks by Differentiating Class-specific Filters}, author={Liang, Haoyu and Ouyang, Zhihao and Zeng, Yuyuan and Su, Hang and He, Zihao and Xia, ...
End-to-end Interpretable Neural Motion Planner.pdf
05-20
End-to-end Interpretable Neural Motion Planner
End-to-end Interpretable Neural Motion Planner.zip
10-02
End-to-end Interpretable Neural Motion Planner.zip
EXPLORING THE INTERPRETABILITY OF LSTM NEURAL NETWORKS OVER MULTI-VARIABLE DATA
10-18
To this end, we propose the interpretable multi-variable LSTM recurrent neural network (IMV-LSTM) capable of providing accurate forecasting as well as both temporal and variable level importance ...
Exploring the role of nitrogen incorporation in ZrO2 resistive switching film for enhancing the device performance
02-07
Exploring the role of nitrogen incorporation in ZrO2 resistive switching film for enhancing the device performance
聚合算法总结
kaka19880812的专栏
09-10 4302
聚合算法是将简单算法混合或组合起来的算法。它既具有限制欠拟合的能力，又具有限制过拟合的能力，合理使用将能获得很好的效果。本文是对聚合算法的总结。
logistic算法解析
kaka19880812的专栏
07-21 2792
对于《机器学习实战》中逻辑斯谛回归算法，其中有一行不好理解： weights = weights + alpha * dataMatrix.transpose() * error 原理推导如下： 附：logistic算法 def sigmoid(inX): return 1.0/(1+exp(-inX)) def gradAscent(dataMatIn, c
Learning Deep Structured Semantic Models for Web Search using Clickthrough Data笔记
kaka19880812的专栏
02-26 2777
用于搜索的DSSM模型
L-BFGS算法（有限内存BFGS算法）
kaka19880812的专栏
08-02 2466
梯度下降算法收敛性
kaka19880812的专栏
07-24 2371
training interpretable convolutional neural networks by differentiating clas
最新发布
09-19
训练可解释的卷积神经网络是通过区分不同的类别来实现的。 卷积神经网络（CNN）是一种用于图像识别和分类任务的深度学习模型。然而，CNN的内部工作方式往往被认为是黑盒子，难以解释其决策过程和分类结果。为了提高CNN的解释性，可以通过不同iating算法来训练可解释的CNN。 不同iating是一种梯度优化方法，它通过梯度反向传播来优化网络的参数。在CNN中，不同iating的关键思想是通过最小化特定类别的损失函数来训练网络，从而鼓励网络关注于这个类别的特征。 通过不同iating类别，我们可以训练网络更加关注于区分不同类别的特征。这样训练出的网络能够通过可解释的方式较好地解释其决策过程。例如，在图像分类任务中，我们可以选择一些代表性的类别，如猫和狗，然后通过最小化猫和狗类别的损失函数来训练网络。这将使网络更加关注于猫和狗之间的区别，从而使其更容易解释其分类结果。 此外，还可以使用可视化方法来进一步解释训练出的CNN。通过可视化网络的卷积层和特征图，我们可以看到网络在不同类别上的激活模式，从而理解网络是如何学习到这些特征的。 总而言之，通过不同iating类别并结合可视化方法，我们可以训练出更加可解释的卷积神经网络，更好地理解其决策过程和分类结果。这将对深度学习模型的解释性研究和应用有着重要的意义。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值