Dirichlet Process（狄利克雷过程）

Dirichlet Process

Dirichlet过程是一个常用于非参数模型的随机过程，对于随机过程的性质可以类比于Gauss过程。它是一个定义在分布上的分布，也就是说每一个Dirichlet过程的样本都是一个分布。从Dirichlet过程中抽样的分布是离散的，但是不能用有限个参数表示这样的过程，因为在每个点（无穷维）都可以定义采样点，因此这是一个非参数的模型。

​ 我们考虑下面这样一个hierarchical的模型：

一个Dirichlet distribution是定义在K维的单纯形上面的分布：

我们说具有以下密度函数形式的称为Dirichlet 分布:
$$p(y_1,\dots ,y_k)=\frac{\Gamma ({\sum }_{k=1}^K{\alpha }_k)}{{\prod }_{k=1}^K\Gamma {\alpha }_k}\prod _{k=1}^K{y}_k^{{\alpha }_k-1}$$

Dirichlet 分布的性质

1.可加性：

若有：
$$\begin{gathered} ({\pi }_1,\dots ,{\pi }_k)\sim Dirichlet({\alpha }_1,\dots ,{\alpha }_k) \\ 则({\pi }_1+{\pi }_2,{\pi }_3,\dots ,{\pi }_k)\sim Dirichlet({\alpha }_1 \end{gathered}$$