深度学习可解释性
文章平均质量分 51
再给一碗吧
读博是一场战役
展开
-
指示函数与符号函数
1、指示函数数学中,指示函数是定义在某集合X上的函数,表示其中有哪些元素属于某一子集A。 指示函数有时候也称为特征函数。现在已经少用这一称呼。概率论有另一意思迥异的特征函数。 可以说为真输出1,为假输出0.2、符号函数数学上的Sgn 函数返回一个整型变量,指出参数的正负号。语法Sgn(number), number 参数是任何有效的数值表达式。返回值如果 number 大于0,则Sgn 返回1;等于0,返回0;小于0,则返回-1。number 参数的符号决定了Sgn 函数的返回值..原创 2021-02-15 10:50:55 · 4649 阅读 · 0 评论 -
【优化】利普希茨连续(Lipschitz continuous)及其应用
利普希茨连续(Lipschitz continuous)利普希茨连续的定义是:如果函数f ff在区间Q QQ上以常数L LL利普希茨连续,那么对于x , y ∈ Q x, y \in Qx,y∈Q,有:∣ ∣ f ( x ) − f ( y ) ∣ ∣ ≤ L ∣ ∣ x − y ∣ ∣ ||f(x) - f(y)|| \leq L||x - y||∣∣f(x)−f(y)∣∣≤L∣∣x−y∣∣其中常数L LL称为f ff在区间Q QQ上的Lipschitz常数。除了Lipschitz continu原创 2021-02-15 10:45:27 · 2229 阅读 · 0 评论 -
(四) 开集识别学习 open-set recognition(OSR)
前言:目前基于CNN方式的开集识别的方案最为经典的要数openmax方法,但是目前所能查到的资料对openmax解读的资料实在是太少,所以这里通过对openmax的实现过程进行讲解以达到理解的目的1、开集识别学习路径 开始根据自己的遇到的情况进行查询,发现开放长尾识别问题中的开放问题就是目前自己遇到的问题,下面这张图很清晰的展示常见任务的划分标准,后续查询到了自己遇到的问题可以更为具体的归属为开集识别的问题,所以后续一直查询开集识别的一些问题,Google Youtube找到了一些资料,思路清晰原创 2020-11-10 00:26:36 · 4055 阅读 · 2 评论 -
(三) 开集识别学习 open-set recognition(OSR)
前言:在之前的博客中提到了开集识别的一些方案,主线是基于DNN方式,但是基于ML方式的解决方案有很多是很经典的,所以这里介绍下基于ML的方式基于ML的方式 SVM based (待展开) Sparse Representation based (待展开) Distance based (待展开) Margin Distribution based (待展开)...原创 2020-11-10 00:25:39 · 1000 阅读 · 0 评论 -
(一)开集识别学习 open-set recognition(OSR)
因近期要学习并且将Openset的思想融入项目中,所以这里学习了大神的几篇文章。希望后续能够很好的复现并且得到理论支撑。系列转载自:https://blog.csdn.net/herr_kun/article/details/1073545011、开集识别学习路径 开始根据自己的遇到的情况进行查询,发现开放长尾识别问题中的开放问题就是目前自己遇到的问题,下面这张图很清晰的展示常见任务的划分标准,后续查询到了自己遇到的问题可以更为具体的归属为开集识别的问题,所以后续一直查询开集识别的一些.原创 2020-11-10 00:22:32 · 2937 阅读 · 2 评论 -
NBDT补充
前面提到的是对论文的浅析,并没有很好的把实现的细节讲出来。在代码复现时,发现很多细节问题。参考咸鱼大神的文章:整个框架搭建分成四个步骤将一个完整NN(全连接层及以上)和决策树结合,决策树的节点都有语义信息和向量信息①预训练一个CNN模型,并拿CNN最后一层的权重作为“每种类别”的隐向量 比如先拿cifar10(一个图片分类数据集,有“猫”、“狗”之类的10种类别)训练一个resnet18的CNN。这类CNN的最后一层通常是全连接层(Fully Connected la...原创 2020-10-23 23:30:50 · 468 阅读 · 0 评论 -
深度学习模型可解释性(重温入门知识)
第一部分 可解释性是什么? 事先事中事后三类型 + LIME(模型无关分析)方法简单实现目录1. 可解释性是什么0x1:广义可解释性0x2:在统计学习中的可解释性0x3:机器学习领域的可解释性1. 决策树是目前业内公认可解释性最好的非线性机器学习算法2. DNN深度学习模型的可解释性不是那么明显2. 我们为什么需要可解释性?0x1:可解释性的不同动机1. 判别并减轻偏差(Identify and mitigate bias)2. 考虑问题的上下文(A...原创 2020-10-20 21:49:41 · 7918 阅读 · 0 评论 -
近期论文安排:可解释深度学习
(1)2018年尾提出来的,XAI(可解释AI)的重要性。(但是讲的挺水的)https://www.jianshu.com/p/425822623ef7(2)阿里社区论文https://developer.aliyun.com/search?q=%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7&spm=5176.12901015.0.i12901015.45bc525cdlKBKQ先看看这些:【计算机视觉】究竟谁能解决可解释性 AI?htt..原创 2020-09-15 09:42:53 · 346 阅读 · 4 评论 -
阅读笔记5:神经支持决策树(可解释性)
论文地址:https://arxiv.org/pdf/2004.00221.pdf源码地址:https://link.zhihu.com/?target=https%3A//github.com/alvinwan/neural-backed-decision-trees在线示例:https://research.alvinwan.com/neural-backed-decision-trees/原博文地址:https://zhuanlan.zhihu.com/p/136015811?utm_so原创 2020-09-14 11:23:21 · 3484 阅读 · 9 评论 -
阅读笔记3: 这看起来像:可解释图像识别的深度学习(ProtoPNet可解释图像分类方法)
这看起来像:可解释图像识别的深度学习(原论文名: This Looks Like That: Deep Learning for Interpretable Image Recognition)作者:Chaofan Chen∗,Oscar Li∗,Chaofan Tao,Alina Jade Barnett,Jonathan Su,Cynthia Rudin论文下载地址:https://arxiv.org/abs/1806.10574Git地址:http...原创 2020-08-27 09:38:00 · 4204 阅读 · 3 评论 -
阅读笔记2: 深度学习可解释性学习:不要做事后解释
选择可解释性高的机器学习模型,而不是解释决策风险高的黑匣子模型(原论文名:StopExplainingBlackBoxMachineLearningModelsforHighStakesDecisionsanduseInterpretableModelsInstead)作者:Adrian Colyer, Venture Partner, Accel论文下载地址:https://www.nature.com/articles/s42256-019-00...原创 2020-08-27 09:13:35 · 1364 阅读 · 0 评论 -
阅读笔记1:理解高阶损失函数在深度学习可解释性方面的应用
理解高阶损失函数在深度学习可解释性方面的应用(原论文名:Understanding Impacts of High-Order Loss Approximations and Featuresin Deep Learning Interpretation)作者:Sahil Singla, Eric Wallace, Shi Feng, Soheil Feizi论文下载地址:https://arxiv.org/pdf/1902.00407.pdf内容概括文章...原创 2020-08-27 08:45:06 · 584 阅读 · 0 评论