EM算法学习笔记

今天学习了一下EM算法, 参考资料：
统计学习方法
datawhalechina
笔记主要截取一些重要的part，看着头疼的可以点第一个链接去看书。

• 应用背景：模型中含有隐变量，不能直接通过极大似然法求出最优解。
  
• 解决方法:
  
• 为什么这样做？
  主要是两个思路：1.通过迭代逐步逼近 2.间接通过下限的极大化来求解，因为下限的这个函数的最优解比较好求，而且可以保证这是原函数的一个局部最优解。
  这个下限函数叫做B函数:
  
  进一步简化，求B函数的最大值相当于求Q函数的最大值：
  
  迭代求解的过程就基本上是这样了，另外的我们可以证明：
  
  
• 在高斯混合模型中的应用：
  
  
  推导中可能感兴趣的part