机器学习算法--无监督学习--聚类

机器学习算法–无监督学习–聚类

---

一、原型聚类

特点：需要预先指定簇的个数K

1、K-Means

Python实现K-Means算法： Python实现K-Means算法

原理：从数据集中选择K个样本作为初始的K个簇中心，计算每个样本与这K个簇中心的距离，把这个样本划分到与之距离最小的那个簇，直至每个样本都被遍历，计算每个簇的平均值作为新的簇的中心。不段迭代直至簇的中心不再被改变或达到迭代的终止条件。

2、LVQ（learning vector quantization）

3、高斯混合聚类（Mixture of Gaussian）

还没研究

---

二、密度聚类（density-based clustering）

特点：不用预先指定簇的个数

DBSCAN: Density-Based Spatial Clustering of Applications with Noise

类似于用队列实现广度优先搜索算法

---

三、层次聚类（hierarchical clustering）

特点：需要预先指定簇的个数作为迭代的终止条件。有两种策略：自底向上的聚合策略，自顶向下的分拆策略。

自底向上的聚合策略：把每个样本初始化为一个簇，通过计算距离，对距离最小的两个簇进行聚合，直到簇的个数减少到所要的K个簇。

类似于寻找最优编码二叉树的 Huffman’s Algorithm

---