狄利克雷过程到底是什么?暂时没搞明白,先写一些目前的想法
首先是多项式分布和狄利克雷分布
表示什么意思呢?我以掷骰子举例。假如有个骰子,有N个面,每个面的概率分别为
现在有了三个空间,分别是参数空间(超参数),样本概率空间(形状由超参数确定),样本抽取结果。一般来说,我们知道样本抽取结果,手工设定参数空间,然后通过先验分布和似然的操作得到后验分布。
什么服从某个分布?就是得到某个样本的概率等于此分布在该样本处的值。所以,抽样就是先选定一个样本,然后以一定概率通过,没通过就舍弃掉。
如果骰子的面数不停增加,直到无穷,变成了球体(或者椭球体,或者其他体,反正表面光滑了),那么其样本概率空间、参数空间也会变成无穷,参数不再用一个向量表示了,而是用一个函数表示,比如
如果说一个概率测度G服从Dir过程,那么它满足:对于样本概率空间的任意有限划分,
即抽样命中
刚开始的时候,我受一些博客的误导,以为G是狄利克雷过程中抽样得到的,还要求G必须离散,大错特错!针对不同的问题,G是不一样的,只要能满足上面的要求“对样本概率空间的任意划分,命中划分空间的概率分布都服从狄利克雷分布”,那么G就服从狄利克雷过程。所以,重点在于证明某种过程满足上面的结果与否,就知道它是否服从狄利克雷过程。
中国餐馆过程:第一个客人坐第一个桌子,第n+1个客人以
第n+1个人选中第
其中