聚类算法实践（一）——层次聚类、K-means聚类

因为百度云的文章里面有些图片丢失了，想起这篇东西之前被一个中国统计网转发过，所以自己搜了一下想直接把图搞回来，结果发现到处转载的也有不少，自己现在发倒好像是抄袭似的。其实这篇文章里面特别有价值的东西不算太多，PCCA算是一个知道的人不多而且也挺有意义的算法，谱聚类的物理解释也算值得说说，之所以被转载可能是因为图多，而且看起来像比较系统吧。

———————————原文的分割线————————————

　　所谓聚类，就是将相似的事物聚集在一起，而将不相似的事物划分到不同的类别的过程，是数据分析之中十分重要的一种手段。比如古典生物学之中，人们通过物种的形貌特征将其分门别类，可以说就是一种朴素的人工聚类。如此，我们就可以将世界上纷繁复杂的信息，简化为少数方便人们理解的类别，可以说是人类认知这个世界的最基本方式之一。
　　
　　在数据分析的术语之中，聚类和分类是两种技术。分类是指我们已经知道了事物的类别，需要从样品中学习分类的规则，是一种有指导学习；而聚类则是由我们来给定简单的规则，从而得到分类，是一种无指导学习。两者可以说是相反的过程。
　　网上关于聚类算法的资料很多，但是其实大都是几种最基本的方法，如K-means、层次聚类、SOM等，以及它们的许许多多的改进变种。这里，我就来讨论一下这些聚类算法，对它们的表现做一个简单的评估。因为内容有点多（其实主要是图占位置……），所以准备分几次来完成。

基本测试

0、测试数据集

  在介绍这些算法之前，这里先给出两个简单的测试样品组，下面每介绍完一个算法，可以直接看看它对这两个样品组的聚类结果ÿ