《机器学习实战》—K-means聚类

机器学习实战—K-means聚类

K-means聚类算法原理及其相关概念

聚类是一种无监督的学习，它将相似的对象归到同一簇中，类似全自动分类。簇内的对象越相似，聚类的效果越好。K-均值聚类是每个类别簇都是采用簇中所含值的均值计算而成。聚类与分类的区别在于分类前目标已知，而聚类为无监督分类。

聚类把不相似的对象归到不同簇，相似度取决于选择的相似度计算方法：

1.欧式距离（edclidean distance）：

两个n维向量a（x11,x12,...,x1n）与b（x21,x22,...,x2n）的欧式距离 

2.曼哈顿距离（Manhattan distance）：

两个n维向量a（x11,x12,...,x1n）与b（x21,x22,...,x2n）的曼哈顿距离 

3.马氏距离（mahalanobis distance）：

马氏距离定义：有M个样本向量x1~xm，协方差矩阵记为S,均值记为u

其中样本向量X到u的距离为：