自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(17)
  • 收藏
  • 关注

原创 Skope-Rules流程解析

前段时间研究XAI时接触了skope-rules这个库,这是个建立在sklearn基础上的可自动产生规则的库,这里总结一下其生成规则的流程主要内容Skope-Rules流程项目地址阶段一:规则生成阶段二:规则初步筛选阶段三:规则的语义去重模型参数解释Skope-Rules流程项目地址GitHub参考文献首先看GitHub上提供的流程图:可以看到实际上这个算法有三个阶段,本文也就按阶段划分叙述这个算法。阶段一:规则生成skope-rules实际上是一个建立在集成树模型基础上的规则抽取器,因

2020-12-13 15:02:12 1815

原创 LIME-论文阅读笔记

主要内容人工智能中的可解释性LIME模型思想如何衡量可解释性对于模型输出的可解释性(LIME)对于模型行为的可解释性(SP-LIME)人工智能中的可解释性LIME模型思想如何衡量可解释性对于模型输出的可解释性(LIME)对于模型行为的可解释性(SP-LIME)...

2020-07-28 22:33:57 1919

原创 聚类

对西瓜书聚类章节的总结,同时参考部分数据挖掘的内容主要内容常用的度量(Metric)属性的种类离散属性连续属性距离度量闵可夫斯基距离VDM原型聚类K均值(K-Means)学习向量量化(LVQ)高斯混合分布基于密度的聚类(DBSCAN)层次聚类常用的度量(Metric)设训练集DDD中的两个样本为xix_ixi​,xjx_jxj​样本之间的距离定义为d(xi,xj)d(x_i,x_j)d(xi...

2020-03-09 23:01:30 572

原创 指数加权平均(EWA)

平时跑模型只知道直接上Adam Optimizer,但具体原理却不甚理解,于是把吴恩达老师的深度学习课翻出来看,记录一下关于动量优化算法的基础-EMA相关内容。指数加权平均的概念平时我们计算平均值,就是简单地将所有数据加起来之后与数据总数求商。对于一部分数据来说,这样的平均值以及可以反应数据的趋势,例如某单位的平均年龄,身高等。但是对于某些数据来说,就不能简单取这样的平均值来观察数据特征了,...

2020-02-27 23:29:01 2092

原创 梯度

梯度下降几乎可以说已经成为深度学习领域的标配优化算法。本文记录一下关于梯度下降的基础。举例均以二元函数为例。多元函数单调性的定义由于多元函数在空间中形成的是曲面,我们知道过曲面上的一点可以得到无数条切线。因此,不能像一元函数那样只沿着xxx轴研究函数变化。首先引入多元函数的单调性定义。方向导数定义 :若函数u=f(x,y)u = f(x,y)u=f(x,y)在点p(x,y)p(x,y)...

2020-02-26 21:55:14 1390

原创 关于Transformer的个人理解

双向 transformer单向transformer

2020-02-26 00:48:29 1649

原创 阅读笔记 - Pointer Network

主要内容论文内容原有模型的问题(Issues in Seq2Seq/RNN)模型架构(Architecture)训练样本的选择凸包问题(convex hull problem)德劳内三角剖分(Delaunay)旅行推销员问题(Travelling Salesman Problem)论文内容原有模型的问题(Issues in Seq2Seq/RNN)模型架构(Architecture)训练样...

2020-02-22 11:00:41 422

原创 lecture12 - Subword model

主要内容课程内容课程内容

2020-02-20 17:52:05 431

原创 阅读笔记 - word2vec Parameter Learning Explained

主要内容论文内容感想连续词袋模型(CBOW)跳词模型(skip-gram)训练优化(tricks)Hierarchical SoftmaxNegative Sampling论文内容原文地址感想在上完CS224N头三节课后,我对word2vec没有产生很好的理解,于是在网上搜寻资料,无意间看到有人推荐这篇论文,于是立刻找来拜读,但第一次读是云里雾里的,于是在积攒了一些读论文的经验后,重看了一...

2020-02-07 20:21:49 413

原创 lecture11 - ConvNets for NLP

主要内容课程内容课程内容

2020-01-31 21:43:30 175

原创 lecture10 - Question Answering

主要内容课程内容问答数据集SQuADSQuAD的优点与缺点经典模型Stanford Attentive ReaderBiDAFFusion Net课程内容问答数据集SQuADSQuAD的优点与缺点经典模型Stanford Attentive ReaderBiDAFFusion Net...

2020-01-29 14:13:14 546

原创 lecture5 - Linguistic Structure Dependency Parsing

这节课听的比较云里雾里,充斥着各种语言学的术语,Manning的头顶也让人充满担心主要内容课程内容上下文无关文法(Context-free grammar)基于依存关系的文法(Dependency grammar)依存分析(Dependency Parsing)基于转移的依存分析(Transition-based Dependency parser)课程内容上下文无关文法(Context-f...

2020-01-26 17:49:27 645

原创 Python中装饰器(Decorator)的理解

之前经常看到‘@’这个符号在代码里出现,后来才知道这是装饰器,借这个机会,看了一些博客,写了一些demo,记录一下浅显的理解主要内容语法糖(Syntactic sugar)装饰器(Decorator)无参数装饰器多参数的装饰器多装饰器装饰器的返回值语法糖(Syntactic sugar)由英国计算机科学家Peter.J.Landin发明的一个术语,指计算机语言中添加的某种语法,这种语法对语言...

2020-01-23 20:18:32 261

原创 Python中的迭代器(Iterator)与生成器(Generator)

本文主要是基于廖雪峰网站上的解释加上自己的一些理解写的,顺带做了个小练习代码基于Python 3.7主要内容生成器(Generator)创建方法迭代器(Iterator)可迭代对象(Iterable)小练习生成器(Generator)生成器基于这样的思想:它保存某种机制,使生成器可以一边循环一遍获取元素。可以理解为,它保留了某种算法,我们可以通过这个算法源源不断地产生我们需要的元素。创建...

2020-01-22 01:22:42 131

原创 lecture8 - Machine Translation Seq2Seq and Attention

课程内容主要内容统计机器翻译模型(Statistical Machine Translation)梗概神经机器翻译模型(Neural Machine Translation)Seq2Seq模型(sequence-to-sequence)评估指标(Metric)优势与劣势优势劣势注意力机制(Attention)主要内容统计机器翻译模型(Statistical Machine Translatio...

2020-01-21 10:27:28 563

原创 lecture7 - Vanishing Gradients and Fancy RNNs

课程内容主要内容神经网络中的问题梯度消失问题(Gradient Vanishing)梯度爆炸问题(Gradient Exploding)如何解决?新的RNN单元长短期记忆单元(Long-Short-Term Memory)门控循环单元(Gated Recurrent Unit)高级网络结构跳接结构(Skip Connection)Dense NetworkResidual NetworkHighw...

2020-01-19 23:02:34 533

原创 lecture6 - Language Models and RNNs

课程内容主要内容语言模型(Language Model)定义N-gram modelSparsity ProblemsStorage ProblemsOther Problems神经语言模型(Neural Language Model)Problems循环神经网络(Recurrent Neural Networks)基本结构优势注意事项主要内容语言模型(Language Model)定义语...

2020-01-17 16:29:12 296

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除