聚类

聚类

1 聚类的类型

K-means、高斯混合聚类、密度聚类、层次聚类等等

它们的聚类结果略有不同。如下图：

 

K-means聚类结果

高斯混合聚类结果

密度聚类结果

密度聚类概念

层次聚类结果

 

2 高斯混合聚类

通过K个高斯分布按一定比例混合而成，一个高斯分布代表一个类。在样本条件下，后验概率最大的高斯分布，就将样本归为那个高斯分布。

高斯分布通过EM算法求解：

在每步迭代中，先根据当前参数来计算每个样本属于每个高斯成分的后验概率（E步），再根据公式更新模型参数（高斯分布中的期望、协方差，各高斯分布的比例）（M步）。