Interpretable Convolutional Neural Networks笔记

最新推荐文章于 2021-12-13 21:09:25 发布
最新推荐文章于 2021-12-13 21:09:25 发布
阅读量3.5k 收藏 4
点赞数 2
分类专栏： 机器学习 文章标签： 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kaka19880812/article/details/78300149
版权

通过mask使得网络部分激活

mask的数值以一点为中心的L1或L2距离衰减，值域范围是tau到-tau

最小化的目标是负X（feature map）和T（template）的互信息（希望互信息大，X和T相关性高），计算条件概率p(X|T)使用softmax转换的X和T的相似度（X和T的dot）

forward过程选择X乘T再经过relu之后和最大的template，而且要求template的label和数据label一致

template的类型选择为X最大的类型（对所有该类型的X求和）

计算loss中使用一些近似加速计算（对一些变量多个step更新一次等）

loss鼓励template只被一类输入数据激活，以及template中的激活区域尽量少

可视化时，选取值大于阈值的结果，例如选取前千分之五的结果

为了在大小上（或者说分辨率上）和原图像对齐，feature map X通过双线性插值扩展到原图像的维度

kaka19880812
关注
  • 2
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
EXPLORING THE INTERPRETABILITY OF LSTM NEURAL NETWORKS OVER MULTI-VARIABLE DATA
10-18
In learning a predictive model over multivariate time series consisting of target and exogenous variables, the forecasting performance and interpretability of the model are both essential for deployment and uncovering knowledge behind the data. To this end, we propose the interpretable multi-variable LSTM recurrent neural network (IMV-LSTM) capable of providing accurate forecasting as well as both temporal and variable level importance interpretation. In particular, IMVLSTM is equipped with tensorized hidden states and update process, so as to learn variables-wise hidden states. On top of it, we develop a mixture attention mechanism and associated summarization methods to quantify the temporal and variable importance in data. Extensive experiments using real datasets demonstrate the prediction performance and interpretability of IMV-LSTM in comparison to a variety of baselines. It also exhibits the prospect as an end-to-end framework for both forecasting and knowledge extraction over multi-variate data.
CSGCNN:“通过区分特定于类的过滤器来训练可解释的卷积神经网络”的代码
05-18
使用特定于类的过滤器来训练可解释的CNN 纸 引用为 @inproceedings{liang2020training, title={Training Interpretable Convolutional Neural Networks by Differentiating Class-specific Filters}, author={Liang, Haoyu and Ouyang, Zhihao and Zeng, Yuyuan and Su, Hang and He, Zihao and Xia, Shu-Tao and Zhu, Jun and Zhang, Bo}, booktitle={European Conference on Computer Vision}, pages={622--638}, year={2020}, organiza
论文笔记：Interpretable Convolutional Neural Networks
xihua0823的博客
12-13 2452
前向传播 对于每一个输入图像I，CNN在Relu操作之后计算filter f 的特征图x，其中x是nxn的矩阵，xij>0。估计目标部分在特征图x的潜在位置是激活最强的神经单元。根据最强的估计位置μ，CNN分配特定的淹没以过滤掉噪声激活。由于f的对应对象部分可能出现在图像的n2个不同位置，我们为f设计了n2个不同的模板{Tμ1，Tμn2}.如图3所示，每一个模板T都是一个nxn的矩阵。当目标部位主要触发了x中的第i个单元时，它描述了特征图x激活的理想分布。我们从n2个中选择模板T作为掩膜。 图4可视化
CSG：清华大学提出通过分化类特定卷积核来训练可解释的卷积网络 | ECCV 2020 Oral
晓飞的算法工程笔记
10-09 531
论文提出类特定控制门CSG来引导网络学习类特定的卷积核，并且加入正则化方法来稀疏化CSG矩阵，进一步保证类特定。从实验结果来看，CSG的稀疏性能够引导卷积核与类别的强关联，在卷积核层面产生高度类相关的特征表达，从而提升网络的性能以及可解释性   来源：晓飞的算法工程笔记 公众号 论文: Training Interpretable Convolutional Neural Networks by Differentiating Class-specific Filters 论文地址：https://.
【论文泛读87】自解释卷积神经网络的文本分类
scu-liu的博客
05-19 257
贴一下汇总贴：论文阅读记录 论文链接：《Self-interpretable Convolutional Neural Networks for Text Classification》 一、摘要 用于自然语言处理（NLP）的深度学习模型本质上是复杂的，并且在自然界中通常被视为黑匣子。本文通过利用ReLU-DNN中固有的局部线性模型，开发了一种用于解释卷积神经网络的文本分类问题的方法。CNN模型结合了通过卷积层嵌入单词的功能，使用最大池对它们进行过滤，并使用ReLU-DNN进行优化以进行分类。为了获得整体可
论文写作准备（二）—— 《Interpretable Convolutional Neural Networks》阅读
weixin_37799689的博客
08-08 1458
摘要：提出了一种将传统卷积神经网络(CNNs)修改为可解释的方法。为了阐明神经网络高级卷积层中的知识表示。在可解释CNN中，深层卷积层中的每个滤波器代表一个特定的对象部分。我们的可解释CNNs使用与普通CNNs相同的训练数据，而不需要对对象部分或纹理进行额外的注释来进行监督。这说明在学习过程中，CNN自动给深层卷积层中的每个滤波器分配一个对象部分。我们可以将我们的方法应用于不同类型、不同结构的神经网络。在可解释的CNN中，显性的知识表示可以帮助人们理解CNN内部的逻辑，即CNN记忆了哪些模式来进行预测。实验
笔记：Interpretable Convolutional Neural Networks
qq_34813925的博客
04-22 3959
作者：Quanshi Zhang, Ying Nian Wu, and Song-Chun Zhu University of California, Los Angeles 原文：arxiv.org/abs/1710.00935 摘要 本文提出了一种将传统的卷积神经网络(CNNs)修改为可解释的CNNs的方法，以阐述在高卷积层CNNs中的知识表示。在可解释的CNN中，高卷积层中的每个filter...
NeuralCD--智能教育系统中的神经认知诊断
qq_36317312的博客
11-24 5569
Abstract 提出了一种通用神经认知诊断(NeuralCD)框架，该框架结合神经网络来学习学生和练习因素向量之间的复杂交互作用 借鉴教育心理学的单调性假设，保证了因素向量的可解释性。 根据真实数据集上的大量实验结果表明，NeuralCD框架具有较高的准确度和可解释性。 Introduction 认知诊断(Cognitive Diagnosis)应用场景：教育、游戏竞技、医疗诊断，是一项十分必要且基础的任务，其中在智慧教育场景应用最为广泛。 认知诊断(Cognitive Diagnosis):在智能教
从2017年顶会论文看 Attention Model
洋葱专栏-有灵魂的程序员
10-09 8512
从2017年顶会论文看 Attention Model 转载来自：https://zhuanlan.zhihu.com/p/29918534?utm_source=wechat_session&utm_medium=social 前言：2017年KDD，Sigir以及Recsys会议被接收的论文早已公示，本文对这些会议中Attention Model相关的10篇论文进行了整理，
Interpretable Convolutional Neural Networks研读
丝萝愿为乔木的博客
01-07 1116
（感觉跟上一篇看的可解释cnn没什么差别，都是在高层的卷积层中的每个卷积核加一个loss，查看代码，所加的loss就logistic或者softmax，正在学习中，如果理解有误的地方，敬请谅解并欢迎指出） 摘要： 为了解释高层卷积层CNN中的知识表示，本文在传统CNN基础上提出可解释CNN。可解释CNN,能够在高层卷积层的每个卷积核代表一个特定的目标部件（比如猫头，猫脚等）.可解释CNN，使用传统的训练集训练，不作任何部件标注，能够在学习阶段给高层卷积层的卷积核自动分配每个特定部件。可以将可解释CNN应用在
End-to-end Interpretable Neural Motion Planner.pdf
05-20
End-to-end Interpretable Neural Motion Planner
End-to-end Interpretable Neural Motion Planner.zip
10-02
End-to-end Interpretable Neural Motion Planner.zip
Exploring the role of nitrogen incorporation in ZrO2 resistive switching film for enhancing the device performance
02-07
Exploring the role of nitrogen incorporation in ZrO2 resistive switching film for enhancing the device performance
聚合算法总结
kaka19880812的专栏
09-10 4304
聚合算法是将简单算法混合或组合起来的算法。它既具有限制欠拟合的能力，又具有限制过拟合的能力，合理使用将能获得很好的效果。本文是对聚合算法的总结。
logistic算法解析
kaka19880812的专栏
07-21 2799
对于《机器学习实战》中逻辑斯谛回归算法，其中有一行不好理解： weights = weights + alpha * dataMatrix.transpose() * error 原理推导如下： 附：logistic算法 def sigmoid(inX): return 1.0/(1+exp(-inX)) def gradAscent(dataMatIn, c
Learning Deep Structured Semantic Models for Web Search using Clickthrough Data笔记
kaka19880812的专栏
02-26 2780
用于搜索的DSSM模型
L-BFGS算法（有限内存BFGS算法）
kaka19880812的专栏
08-02 2478
梯度下降算法收敛性
kaka19880812的专栏
07-24 2374
training interpretable convolutional neural networks by differentiating clas
最新发布
09-19
训练可解释的卷积神经网络是通过区分不同的类别来实现的。 卷积神经网络（CNN）是一种用于图像识别和分类任务的深度学习模型。然而，CNN的内部工作方式往往被认为是黑盒子，难以解释其决策过程和分类结果。...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值