-
高斯混合模型
高斯混合模型是指具有如下形式的概率分布模型:
其中,是系数,,;是高斯分布密度,,
称为第k个分模型。
参考:《统计学习方法》9.3 EM算法在高斯混合模型学习中的应用
-
多维高斯混合模型
多维高斯混合模型具有如下形式的概率分布模型:
其中d为数据的维度,为均值,为协方差矩阵。
对于二维高斯混合模型,d=2,y和都是二维的数据,用矩阵表示就是一行两列,则是两行两列的协方差矩阵。
-
二维高斯混合模型参数估计的EM算法
输入:观测数据,二维高斯混合模型;
输出:二维高斯混合模型参数。
算法步骤如下:
(1)取参数的初始值开始迭代
(2)E步:依据当前模型参数,计算分模型k对观测数据的响应度:
(3)M步:计算新一轮迭代的模型参数: