聚类

聚类

聚类的任务目标是将数据集划分为多个子集cluster，通常每个cluster中有着自己的一些潜在共同性质。

性能度量

作为评价一个聚类结果的好坏程度，通常作为我们的优化目标函数。也可以称作为评价指标。聚类的性能度量大致分为两种：一种将结果与某个参考模型作比较，称为外部指标；一种直接观察聚类结果，称作内部指标。

基于这些定义，常用的外部指标有：

 

可以导出下列常用的内部指标：

相似性度量

常用的相似性度量

原型聚类

<k均值聚类>

Kmeans聚类算法及其matlab源码

<学习向量量化LVQ>

类似于kmeas的聚类中心，每个cluster中的点到其所属类别中心的距离要小于其到其他聚类中心的距离。LVQ算法的过程类似于寻找一组这样的”聚类中心“。

1）它先将每个训练样本打上各自的标签，然后设定一组原型向量（初始聚类中心）；

2）然后选取一个样本，计算其到各个聚类中心的距离，选取距离最小的聚类中心，如果该中心的标签与该样本的标签相等，则让该聚类中心向该样本移动，否则远离该样本；

3）重复而过程，直至满足停止条件。

<高斯混合聚类>

该聚类方法是利用概率模型来表达聚类原型。

<密度聚类>

该类算法的前提是假设样本能够根据其分布的紧密程度来划分。比较有代表性的是DBSCAN算法：

<层次聚类>

层次聚类试图在不同的层次上对数据集进行划分，从而形成树结构，数据集的划分可以从上而下或者从下而上。AGENS是一种层次聚类算法。