采用EM估计GMM的参数

这篇博客详细介绍了如何采用EM(期望值最大)算法估计高斯混合模型(GMM)的参数,包括初始化、E-step(估计步骤)和M-step(最大化步骤),并讨论了两种不同的收敛条件。内容涵盖了初始值设定、参数更新公式以及对协方差矩阵的处理,强调了在实际应用中考虑完整协方差矩阵的重要性。
摘要由CSDN通过智能技术生成

      通常采用EM对GMM参数进行估计。EM(期望值最大,Expectation Maximum)算法思想比较简单,主要分为两个步骤,估计步骤E-step和最大化步骤M-step。首先利用样本对参数进行估计,然后在M-step中将需要估计的参数最大化(通常是求其最大似然估计),不断地迭代此两个步骤,直到收敛。

      下面写一下采用EM估计GMM的步骤:

      1、初始值确定。

       方案1:将协方差矩阵设为单位矩阵,每个模型的先验概率设为1/M,均值设为随机数,即:

      clip_image002[5]

      方案2:有k均值(k-mean)聚类算法对样本进行聚类,利用各类的均值作为均值初始值,并计算协方差矩阵作为初始值,每个模型的先验概率取各类样本占样本总数的比例。

      2、估计步骤(E-step)

     

  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值