机器学习-GMM高斯混合模型

引言

GMM理论上可以拟合出任意类型的分布。

博客是一份笔记，详细的讲解可以看[1]

---

  GMM

---

GMM的应用

常用于聚类【实际上可以分为两步：首先随机地在这 K 个 Component 之中选一个，每个 Component 被选中的概率实际上就是它的系数πk ，选中 Component 之后，再单独地考虑从这个 Component 的分布中选取一个点就可以了──这里已经回到了普通的 Gaussian 分布，转化为已知的问题。】

将GMM用于聚类时，假设数据服从混合高斯分布（Mixture Gaussian Distribution），那么只要根据数据推出 GMM 的概率分布来就可以了；然后 GMM 的 K 个 Component 实际上对应K个 cluster 。根据数据来推算概率密度通常被称作 density estimation 。特别地，当我已知（或假定）概率密度函数的形式，而要估计其中的参数的过程被称作『参数估计』。

---

参数估计过程

最大似然估计法：

---

文献引用：

1. https://blog.csdn.net/jinping_shi/article/details/59613054
2. 《机器学习》