【算法】狄利克雷过程 (Dirichlet过程)

---

本小节是层次狄利克雷过程的笔记。

狄利克雷混合模型DPMM是一种可以自动确定聚类类别数量的聚类方法。

狄利克雷过程DP是“分布的分布”，由2个参数和确定，即。其中是分布参数，值越大，分布越接近于均匀分布，值越小，分布越集中。是基分布。

于是狄利克雷过程就是，经过狄利克雷过程，输出了一个。越大，输出的G与输入的越接近。

何时需要狄利克雷分布呢? 

1. 聚类的数量未知；
2. 非参数化，即不确定参数，如果需要的话，参数的数量是可以变化的；
3. 聚类的数量服从于概率分布。

---

本小节是徐亦达机器学习：Dirichlet Process 狄利克雷过程的笔记。

Bayesian Non Parametric

有一些点（二维数据）是从高斯混合模型中产生的，那它到底有几个混合呢？即它的k是多少呢？（k参考高斯混合模型Gaussian Mixture Model）

如果G是从产生的，那么G就是一个随机离散测度。G是由无穷个atam组成的，是每个棍子的位置，是棍子的权重。

不管如何划分的空间，G在每个空间上相对应的测度服从一个狄利克雷分布，此分布的参数是 base measure H在每个空间上的测度*。