《LDA漫游指南》数学基础阅读笔记

原创 2016年06月21日 19:45:02

我大概看了看,觉得这本书比较散,也许是我功力不够,所以打算快速刷完看看别的。笔记就这么多吧。

《LDA漫游指南》数学基础阅读笔记

第二章 烧脑的数学公式。。。

廉颇老矣,扶我起来,朕还能算。。。

gamma函数

gamma function

这个函数主要目的是计算阶乘可以通过这个函数来进行转化。

举个栗子:

gamma(1)

这么一看,其实挺简单的哈,无非就是一个积分运算,无非是表现形式有些复杂而已。

再来重复一遍:

gamma function

第一个烧脑结果: Γ(12):

Gamma(1/2)

运算过程:

首先将12带入gamma函数,对于计算结果进行换元,换元之后发现相对容易了一些,然后假设结果为I,对于I^2进行计算,这样能够转换成为整个平面的极坐标,通过雅可比矩阵计算出变换之前和变换之后Δ(s)进行计算,以便得出在不同的变量表示下,小面积的对应的比例。这样计算出最后的结果Γ(12)=π

第二个烧脑结果:Γ(x+1)=xΓ(x)

证明如下:

Gamma(x+1)

从上面可以看出,其实对于Γ(x+1)Γ(x)是相当有规律的,这也符合阶乘的特点。

哦哦哦?很神奇,居然前面提出了x,其实Γ(x)=(x1)!

所以Γ代表阶乘。


二项分布

这个看上去还熟悉点儿。刚刚还在群里告诉学弟学妹如何应对概率考试,然而其实我更想说:你们平时学的效果比现在好得多!然而都考期了。。。

来,言归正传,说说二项分布:

二项分布也叫做伯努利分布,非常有趣,也非常简单。

一种有成功或者失败两种状态,用概率p来表示成功的概率,每次事件相互独立,并没有任何相关关系。当实验次数为1时叫做伯努力分布,当次数大于1的时候,叫做n重伯努力分布:

bernouli

在matlab中有一个很简单的接口:

ret = nchoosek(n,k);

可以尝试玩耍一下。


beta分布

beta分布实际上是个连续的分布,定义在区间(0,1)上面。α,β>0

其概率密度函数为

beta distribution

实际上这是X服从beta分布的结果。

下面有一个巨长无比的证明,关于欧啦第一公式:是B函数和gamma函数的关系,也被称为第一型欧拉积分:

(看完这个我要去跑个步休息一下)

可以看出B(α,β)=Γ(α)Γ(β)Γ(α+β)

B

推倒如下:

不,我不想粘贴了。。。

自己看看吧。我先看看结论,会用再说!

B

就是他!

我要去跑个步放松一下。

另外,假设我们已知欧拉第一公式,那么计算beta函数的期望就会非常之有趣,会发现就是αα+β

然后出现了这么一个奇葩的不知道从哪里来的公式:
unknown


dirichlet districution

狄利克雷分布的简单版本就是beta分布了,不过beta是两项,而狄利克雷分布是多项。

共轭先验分布


综上所述:

需要记住的几个公式和中间结果:

gamma函数

gamma function

Γ(12)=π

Γ(x+1)=xΓ(x)

OpenGL 实现Google地图瓦片的绘制,漫游

-
  • 1970年01月01日 08:00

LDA漫游指南_马晨

  • 2016年12月09日 20:35
  • 17.92MB
  • 下载

LDA漫游指南

  • 2016年12月25日 00:49
  • 15.75MB
  • 下载

LDA的直观解释

这篇文章是之前(很久之前了……)看LDA的时候的一些想法,关于LDA介绍的文章很多,推导得很详细的也不少,然而总是觉得不够直观,所以从另外一个角度来考虑了一下这个问题。如果我这里的想法没错的话,我猜L...
  • sky88088
  • sky88088
  • 2016-07-13 22:51:03
  • 1425

根据《LDA漫游指南》来对gibbsLDA++结果进行分析

根据LDA漫游指南来对gibbsLDA++结果进行分析在使用gibbsLDA++之前,对于文档进行预处理,第一行为文档的数目,第2 - n+1行为每一篇文章分词后的结果。 最终会产生许多文件,gib...
  • Zhaohui1995_Yang
  • Zhaohui1995_Yang
  • 2016-06-21 18:57:44
  • 938

python LDA实践入门学习

最近开始学习LDA,苦于没有一个浅显易懂的入门教程,索性自己来搜索了一下,还真的找到了一个不错的入门指南,在这里转载贴出来,如果需要的话也可以参考一下,欢迎交流! 转自:[python] LDA处理...
  • Together_CZ
  • Together_CZ
  • 2017-04-17 09:24:10
  • 4146

LDA漫游pdf

  • 2016年11月01日 15:24
  • 15.75MB
  • 下载

LDA漫游指南全章节清晰PDF

  • 2018年01月25日 15:36
  • 12.69MB
  • 下载

LDA︱基于LDA的Topic Model变形+一些NLP开源项目

最近有想用LDA理论的变形来解决问题,调研中。。。。 基于LDA的Topic Model变形 基于LDA的Topic Model变形最近几年来,随着LDA的产生和发展,涌现出了一批搞Topic M...
  • sinat_26917383
  • sinat_26917383
  • 2016-08-02 16:04:48
  • 2694

Github 漫游指南

  • 2016年01月05日 19:56
  • 2.27MB
  • 下载
收藏助手
不良信息举报
您举报文章:《LDA漫游指南》数学基础阅读笔记
举报原因:
原因补充:

(最多只允许输入30个字)