数据分析与建模知识点总结（二）——聚类

数据分析与建模知识点总结（二）——聚类

一、聚类

1、定义

聚类是指在没有训练标号样本的情况下，按照某种准则，将样本集划分为若干簇。

2、划分准则

聚类的划分准则多种多样，比如：举例准则，相似准则，关联度准则等，其中最常用的是距离准则。

3、距离准则

按照远近程度聚类需要明确两个概念，一个是点和点之间的距离，一个是类和类之间的距离。

（1）点距离

点和点之间的距离有多种定义方式，最简单的是欧氏距离。

1. 欧式距离
   
2. 曼哈顿距离
   
3. 切比雪夫距离
   
4. 闵可夫斯基距离
   
5. 马氏距离
   
6. 夹角余弦
   
   

（2）类距离

由一个点组成的类是最基本的类，如果每一类都由一个点组成，那么点间的距离就是类间距离；如果某一类 中包含不止一个点，那么就需要确定类间距离。

类间距离是基于点间距离定义的：可以用两类之间最近点之间的距离、或两类中最远点之间的距离、或者各类的中心之间的距离来作为类间距离。
用Dpq来表示类Gp与类Gq之间的距离，用d(xi,xj)表示点xi∈Gp和xj∈Gq之间的距离：

1. 最短距离法
   Dpq=min{d(xi,xj)}
   
2. 最长距离法
   Dpq=max{d(xi,xj)}
   
3. 类平均法
   Dpq=1/n1n2 ∑_(xi∈Gp)∑_(xj∈Gq)〖d(xi,xj)〗

未完待续