- 博客(17)
- 收藏
- 关注
原创 Skope-Rules流程解析
前段时间研究XAI时接触了skope-rules这个库,这是个建立在sklearn基础上的可自动产生规则的库,这里总结一下其生成规则的流程主要内容Skope-Rules流程项目地址阶段一:规则生成阶段二:规则初步筛选阶段三:规则的语义去重模型参数解释Skope-Rules流程项目地址GitHub参考文献首先看GitHub上提供的流程图:可以看到实际上这个算法有三个阶段,本文也就按阶段划分叙述这个算法。阶段一:规则生成skope-rules实际上是一个建立在集成树模型基础上的规则抽取器,因
2020-12-13 15:02:12
1815
原创 LIME-论文阅读笔记
主要内容人工智能中的可解释性LIME模型思想如何衡量可解释性对于模型输出的可解释性(LIME)对于模型行为的可解释性(SP-LIME)人工智能中的可解释性LIME模型思想如何衡量可解释性对于模型输出的可解释性(LIME)对于模型行为的可解释性(SP-LIME)...
2020-07-28 22:33:57
1919
原创 聚类
对西瓜书聚类章节的总结,同时参考部分数据挖掘的内容主要内容常用的度量(Metric)属性的种类离散属性连续属性距离度量闵可夫斯基距离VDM原型聚类K均值(K-Means)学习向量量化(LVQ)高斯混合分布基于密度的聚类(DBSCAN)层次聚类常用的度量(Metric)设训练集DDD中的两个样本为xix_ixi,xjx_jxj样本之间的距离定义为d(xi,xj)d(x_i,x_j)d(xi...
2020-03-09 23:01:30
572
原创 指数加权平均(EWA)
平时跑模型只知道直接上Adam Optimizer,但具体原理却不甚理解,于是把吴恩达老师的深度学习课翻出来看,记录一下关于动量优化算法的基础-EMA相关内容。指数加权平均的概念平时我们计算平均值,就是简单地将所有数据加起来之后与数据总数求商。对于一部分数据来说,这样的平均值以及可以反应数据的趋势,例如某单位的平均年龄,身高等。但是对于某些数据来说,就不能简单取这样的平均值来观察数据特征了,...
2020-02-27 23:29:01
2092
原创 梯度
梯度下降几乎可以说已经成为深度学习领域的标配优化算法。本文记录一下关于梯度下降的基础。举例均以二元函数为例。多元函数单调性的定义由于多元函数在空间中形成的是曲面,我们知道过曲面上的一点可以得到无数条切线。因此,不能像一元函数那样只沿着xxx轴研究函数变化。首先引入多元函数的单调性定义。方向导数定义 :若函数u=f(x,y)u = f(x,y)u=f(x,y)在点p(x,y)p(x,y)...
2020-02-26 21:55:14
1390
原创 阅读笔记 - Pointer Network
主要内容论文内容原有模型的问题(Issues in Seq2Seq/RNN)模型架构(Architecture)训练样本的选择凸包问题(convex hull problem)德劳内三角剖分(Delaunay)旅行推销员问题(Travelling Salesman Problem)论文内容原有模型的问题(Issues in Seq2Seq/RNN)模型架构(Architecture)训练样...
2020-02-22 11:00:41
422
原创 阅读笔记 - word2vec Parameter Learning Explained
主要内容论文内容感想连续词袋模型(CBOW)跳词模型(skip-gram)训练优化(tricks)Hierarchical SoftmaxNegative Sampling论文内容原文地址感想在上完CS224N头三节课后,我对word2vec没有产生很好的理解,于是在网上搜寻资料,无意间看到有人推荐这篇论文,于是立刻找来拜读,但第一次读是云里雾里的,于是在积攒了一些读论文的经验后,重看了一...
2020-02-07 20:21:49
413
原创 lecture10 - Question Answering
主要内容课程内容问答数据集SQuADSQuAD的优点与缺点经典模型Stanford Attentive ReaderBiDAFFusion Net课程内容问答数据集SQuADSQuAD的优点与缺点经典模型Stanford Attentive ReaderBiDAFFusion Net...
2020-01-29 14:13:14
546
原创 lecture5 - Linguistic Structure Dependency Parsing
这节课听的比较云里雾里,充斥着各种语言学的术语,Manning的头顶也让人充满担心主要内容课程内容上下文无关文法(Context-free grammar)基于依存关系的文法(Dependency grammar)依存分析(Dependency Parsing)基于转移的依存分析(Transition-based Dependency parser)课程内容上下文无关文法(Context-f...
2020-01-26 17:49:27
645
原创 Python中装饰器(Decorator)的理解
之前经常看到‘@’这个符号在代码里出现,后来才知道这是装饰器,借这个机会,看了一些博客,写了一些demo,记录一下浅显的理解主要内容语法糖(Syntactic sugar)装饰器(Decorator)无参数装饰器多参数的装饰器多装饰器装饰器的返回值语法糖(Syntactic sugar)由英国计算机科学家Peter.J.Landin发明的一个术语,指计算机语言中添加的某种语法,这种语法对语言...
2020-01-23 20:18:32
261
原创 Python中的迭代器(Iterator)与生成器(Generator)
本文主要是基于廖雪峰网站上的解释加上自己的一些理解写的,顺带做了个小练习代码基于Python 3.7主要内容生成器(Generator)创建方法迭代器(Iterator)可迭代对象(Iterable)小练习生成器(Generator)生成器基于这样的思想:它保存某种机制,使生成器可以一边循环一遍获取元素。可以理解为,它保留了某种算法,我们可以通过这个算法源源不断地产生我们需要的元素。创建...
2020-01-22 01:22:42
131
原创 lecture8 - Machine Translation Seq2Seq and Attention
课程内容主要内容统计机器翻译模型(Statistical Machine Translation)梗概神经机器翻译模型(Neural Machine Translation)Seq2Seq模型(sequence-to-sequence)评估指标(Metric)优势与劣势优势劣势注意力机制(Attention)主要内容统计机器翻译模型(Statistical Machine Translatio...
2020-01-21 10:27:28
563
原创 lecture7 - Vanishing Gradients and Fancy RNNs
课程内容主要内容神经网络中的问题梯度消失问题(Gradient Vanishing)梯度爆炸问题(Gradient Exploding)如何解决?新的RNN单元长短期记忆单元(Long-Short-Term Memory)门控循环单元(Gated Recurrent Unit)高级网络结构跳接结构(Skip Connection)Dense NetworkResidual NetworkHighw...
2020-01-19 23:02:34
533
原创 lecture6 - Language Models and RNNs
课程内容主要内容语言模型(Language Model)定义N-gram modelSparsity ProblemsStorage ProblemsOther Problems神经语言模型(Neural Language Model)Problems循环神经网络(Recurrent Neural Networks)基本结构优势注意事项主要内容语言模型(Language Model)定义语...
2020-01-17 16:29:12
296
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人