本文详细介绍了EM（期望最大化）算法，包括最大似然估计的概念、EM算法的背景及其解决的问题。文章通过男生和女生身高分布的例子，解释了EM算法在面对数据中存在隐含变量时如何通过迭代求解参数。EM算法的基本思想是通过E（期望）和M（最大化）步骤交替进行，逐步提高模型的似然性，最终找到最优参数。文章还探讨了Jensen不等式在EM算法中的应用，并指出EM算法在混合高斯模型、聚类和HMM等领域有广泛应用。
机器学习十大算法之一：EM算法。能评得上十大之一，让人听起来觉得挺NB的。什么是NB啊，我们一般说某个人很NB，是因为他能解决一些别人解决不了的问题。神为什么是神，因为神能做很多人做不了的事。那么EM算法能解决什么问题呢？或者说EM算法是因为什么而来到这个世界上，还吸引了那么多世人的目光。
我希望自己能通俗地把它理解或者说明白，但是，EM这个问题感觉真的不太好用通俗的语言去说明白，因为它很简单，又很复杂。简单在于它的思想，简单在于其仅包含了两个步骤就能完成强大的功能，复杂在于它的数学推理涉及到比较繁杂的概率公式等。如果只讲简单的，就丢失了EM算法的精髓，如果只讲数学推理，又过于枯燥和生涩，但另一方面，想把两者结合起来也不是件容易的事。所以，我也没法期待我能把它讲得怎样。希望各位不吝指导。
一、最大似然
扯了太多，得入正题了。假设我们遇到的是下面这样的问题：
假设我们需要调查我们学校的男生和女生的身高分布。你怎么做啊？你说那么多人不可能一个一个去问吧，肯定是抽样了。假设你在校园里随便地活捉了100个男生和100个女生。他们共200个人
订阅专栏 解锁全文
扫一扫
5234
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
