机器学习笔记19-EM算法

GMM(高斯混合模型)

问题引入:(图中的方差实为标准差)

随机挑选10000位志愿者,测量他们的身高;若样本中存在男性和女性,身高分别服从N(\mu _{1},\sigma _{1})N(\mu _{2},\sigma _{2}),试估计\mu _{1},\mu _{2},\sigma _{1},\sigma _{1}

假设随机变量X是由K个高斯分布混合而成,取各个高斯分布的概率为\pi _{1},\pi _{2},\pi _{3},......\pi _{K},第i个高斯分布的均值为\mu _{1},标准差为\Sigma _{i}。若观测到随机变量X的一系列样本x1,x2,x2......xn,试估计参数\pi ,\mu,\Sigma

此时,对数似然函数为:(是不能直接求导的)

l_{\pi ,\mu,\Sigma}(x)=\sum_{i=1}^{N}log(\sum_{k=1}^{K}\pi_{k}N(x_{i}|\mu_{k},\Sigma_{k}))

下面分为两步:开始的时候主观设定\pi ,\mu,\Sigma的参数值,然后进行优化

最后得到的是局部最优值,与开始时候主观设定的参数值有关。

 

 

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值