![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Bayesian Non-Parametrics 笔记
Bayesian Non-Parametrics Model --- Dirichlet Process Mixture Model
Happy_Traveller
这个作者很懒,什么都没留下…
展开
-
Dirichlet Process 4
直接将G带入有些困难,这里面使用了狄利克雷分布和多项式分布共轭的性质。相等,那么我们能够相信这a个对应的样本x属于同一类的。可以看到新的DP的base measure。,和之前的H相比,新加了一个离散的项。要从一个离散的分布,即G中产生。每一个样本都有自己对应的。,有多少个样本就有多少个。原创 2024-01-23 22:10:12 · 382 阅读 · 0 评论 -
Dirichlet Process 1
如下图的一个简单样本,如果我们不知道图中的样本是出自几个高斯分布,那我们如果求这个图中的样本应该归属于几个高斯分布那?直观看上去,有同学可能说是4个,有同学可能说是2个,然而如果是高维数据那?,这里面的DP代表Dirichlet Process,即狄利克雷过程,这里面的。又出自分布H,H可能是连续的也可能是离散的,可以同归DP产生G的一个随机测度。那么我们想通过一种方法,获得H的一个离散的版本,即。都对应一个产生它的分布,且这个分布的参数为。,那么G就是一个值,如果。是一个连续的分布,那么。原创 2023-07-03 15:14:52 · 131 阅读 · 0 评论 -
Dirichlet Process 5
所以同理我们有如下的predictive distribution,k代表有k个partition。中国餐馆过程(Chinese Restaurant Process)将 (2)带入 (1)(2式中的前两项消掉,只剩下第三项;最终属于某一个partition 里面,其实我们并不关心。这里面是知道已有的变量的值,能够推测新的变量值。属于哪一个partition里面。数据哪个partition的值用。具体的数值是多少,我们关心的是。原创 2024-01-23 22:10:28 · 378 阅读 · 0 评论 -
Dirichlet Process 3
本节来介绍如何构造G,这里使用Stick-breaking construction算法。以此类推,可以得到无数个item,且。对于G,这里面有2个变量,一个是。,即采样的位置,一个是。原创 2024-01-23 22:10:00 · 375 阅读 · 0 评论 -
Dirichlet Process 2
都是H的一个随机测度,这些测度应该有一定的关系,这里面将H分为d个区域,d可以是任意值,每个区域。,G是H的一个测度,这个测度可以计算无数次,每次都会得到一个随机测度。,即Dirichlet Distribution(狄利克雷分布)原创 2024-01-23 22:09:40 · 379 阅读 · 0 评论