数据分析与机器学习学习笔记--聚类算法

 

1.引言

        聚类算法分属与机器学习中的无监督学习类型，由于无监督学习大多是根据距离进行分类所以其准确性远不及有监督学习，但是聚类算法用于数据预处理还是有很大作用的。例如我们拿到一个数据集后通过聚类算法生成3个类别，在此基础上将第一次分类产生的标签用于接下来进一步的有监督学习（典型的Stacking模型思想），使用这个思路得到的模型效果往往要好一些。

        此外，他还能进行数据摘要、数据降维与数据压缩。总之一句话，就我个人的一些理解，在现阶段而言聚类算法更应归属与数据分析与预处理之中（在之前聚类算法常用于分类等其他方向中），为什么后来换成其他的算法进行分类了呢？自然是因为精度不达标喽，比如下方图所示，我们一眼可以看出这明显属于两个类别的样本，但是使用K-MEANS算法时两个样本的颜色、阴影等一系列值十分相似，因此在使用该聚类算法时会将两个样本归为一类。。。。（人狗情未了）。本文主要介绍K-MEANS，DBSCN二种不同的聚类算法，分别是基于距离、密度二种方式提出的算法。

2.K-MEANS算法

        K-MEANS算法目标是将