算法进阶--层次聚类

层次聚类方法

定义：对给定的数据集进行层次的分解，直到某种条件满足为止
分为：
1.凝聚的层次聚类:AGNES算法
– 一种自底向上的策略，首先将每个对象作为一个簇，然后合并这些原子簇为越来越大的簇，知道某个中介条件被满足
2.分裂的层次聚类：DIANA算法
– 采用自顶向下的策略，首先将所有对象置于一个簇中，然后逐渐细分为越来越小的簇，直到达到了某个终结条件

AGENS

簇间距离：
1.最小距离：两个集合中最近的两个样本的距离
缺点：容易形成链状结构
2.最大距离：两个集合中最远的两个样本的距离
缺点：若存在异常值则不稳定
3.平均距离：
1.两个集合中样本间两两距离的平均值
2.两个集合中样本间两两距离的平方和

密度聚类方法

定义：只要样本点的密度大于某阈值，则将该样本添加到最近的簇中
优点：克服基于距离的算法只能发现“类圆形”（凸）的聚类的缺点，可发现任意形状的聚类，且对噪声数据不敏感。
缺点：计算密度单元的计算复杂度大，需要建立空间索引来降低计算量

DBSCAN算法

全名：Density-Based Spatial Clustering of Applicationns with Noise

• 定义：将簇定义为密度相连的点的最大集合，能够把具有足够高密度的区域划分为簇，并可在有“噪声”的数据中发现任意形状的聚类

• 相关概念：
  1.对象的$\epsilon -邻域$：给定对象在半径$\epsilon$内的区域
  2.核心对象：对于给定的数目m，如果一个对象的$\epsilon -邻域$至少包含m个对象，则称该对象为核心对象
  3.直接密度可达：给定一个对象集合D，如果p是在q的$\epsilon -邻域$内，而q是一个核心对象，我们说对象p从对对象q出发是直接密度可达的
  
  4.密度可达：如果存在一个对象链$p_1,p_2,...p_n$,其中 p 1 = q ,