无监督学习-2(层次聚类，DBSCAN)

K-Means++

不同于K-Means算法第一次是随机选择K个聚类中心，K-Means++是假设已经选取了𝑝个初始聚类中心(0<𝑝<𝐾)，则在选取第𝑝+1个聚类中心时：距离当前𝑝个聚类中心越远的点会有更高的概率被选为第𝑝+1个聚类中心。只有在选取第一个聚类中心(𝑝=1)时是通过随机的方法。该改进方法符合一般的直觉：聚类中心互相之间距离得越远越好。这个改进直观简单，也非常有效。

K-Mediods

K-Mediods是基于原型的另一种聚类算法，也是对K-Means算法的一种改进。

算法描述:

1. 随机选取一组样本作为中心点集；
2. 每个中心点对应一个簇；
3. 计算各样本点到各个中心点的距离（如欧氏距离），将样本点放入距离中心点最短的那个簇中；
4. 计算各簇中，距簇内各样本点距离的绝对误差最小的点，作为新的中心点；
5. 如果新的中心点集与原中心点集相同，算法终止；如果新的中心点集与原中心点集不完全相同，返回2)。

K-Mediods聚类算法原理和K-Means大体相似，算法流程基本一致，不同的是:

• 质心的计算方式不同

K-Means聚类算法更新聚簇中心的时候直接计算均值，以均值点作为新的中心，可能是样本点中不存在的点；而K-Mediods更新聚簇中心是计算每一个点到簇内其他点的距离之和，选择距离和最小的点来作为新的聚簇中心，质心必须是某些样本点的值。

• K-Mediods可以避免数据中的异常值带来的影响。

如一个二维的样本集划分的簇是{(1，1)，(1，2)，(2，1)，(1000，1000)}，其中(1000，1000)是噪声点。按照K-Means算法，该样本集的质心则为(502，502)，但这个新的质心并不是该样本集大多数正常样本点围绕的中心；如果是选择K-Medoids就可以避免这种情况，它会在{(1，1)，(1，2)，(2，1)，(1000，1000)}中选出一个样本点使它到其他所有点的距离之和绝对误差最小，计算可知一定会在前三个点中选取。