周志华《机器学习》聚类

聚类试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集成为一个簇，通过这样的划分，每个簇可能对应于一些潜在的概念（类别），如本地瓜、外地瓜等，但是和分类不同的是，分类是先有本地瓜和外地瓜两个类别，需要判断特定的某个瓜是哪个类；但是聚类是一堆瓜放在一起，先聚类成了两类，然后对这两类瓜，卖瓜的人总结其中是本地瓜和外地瓜的区别。

 

1、距离计算

对于不同的任务，需要根据样本来确定合适的聚集计算方法，通常距离度量需要满足：

1、非负性：两点距离非负

2、同一性：同一个点距离为0

3、对称性：a到b的距离等于b到a的距离

4、直递性：a到c的距离小于等于a到b再到c的总距离

但是有些任务中，可能对上述性质的要求是不一样的（比如不需要满足直递性），所以对于现实任务，可以对距离计算方法进行自定义。

常用的距离计算方法包括：

1、 连续属性：常用的是闵可夫斯基距离

对于两个样本