目录
1.定义
所谓的聚类,就是将样本划分为由类似的对象组成的多个类的过程。聚类后,我们可以更加准确的在每个类中单独使用统计模型进行估计、分析或预测; 也可以探究不同类之间的相关性和主要差异。
聚类与分类不同,分类是已经知道了类别,聚类不知道类别。
2.算法分类
1.K-means聚类(K均值聚类)以及K-means++
算法流程
1.指定需要划分的簇[cù]的个数K值(类的个数);
2.随机地选择K个数据对象作为初始的聚类中心(不一定要是我们的样本点);
3.计算其余的各个数据对象到这K个初始聚类中心的距离,把数据对象划归到距离它最近的那个中心所处在的簇类中;
4.调整新类并且重新计算出新类的中心;
5.循环步骤三和四,看中心是否收敛(不变),如果收敛或达到迭代次数则停止循环;
6.结束。
K-means++
优化的点:初始化K个聚类中心。
1.随机选取一个样本作为第一个聚类中心;
2.计算每个样本与当前已有聚类中心的最短距离(即与最近一个聚类中心的距离),这个值越大,表示被选取作为聚类中心的概率较大;最后,用轮盘法(依据概率大小来进行抽选)选出下一个聚类中心;
3.重复步骤二,直到选出K个聚类中心。选出初始点后,就继续使用标准的K-means算法了。
spss实现
注意的点
1.K值的决定
2.如果单位不统一,记得均值化消除量纲的影响。
2.系统聚类
系统聚类的合并算法通过计算两类数据点间的距离,对最为接近的两类数据点进行组合,并反复迭代这一过程,直到将所有数据点合成一类,并生成聚类谱系图。
算法流程
1.将每个对象看作一类,计算两两之间的最小距离;
2.将距离最小的两个类合并成一个新类;
3.重新计算新类与所有类之间的距离;
4.重复二三两步,直到所有类最后合并成一类;
5.结束。
spss实现
3.DBSCAN算法
DBSCAN(Density-based spatial clustering of applications with noise)是Martin Ester, Hans-PeterKriegel等人于1996年提出的一种基于密度的聚类方法,聚类前不需要预先指定聚类的个数,生成的簇的个数不定(和数据有关)。该算法利用基于密度的聚类的概念,即要求聚类空间中的一定区域内所包含对象(点或其他空间对象)的数目不小于某一给定阈值。该方法能在具有噪声的空间数据库中发现任意形状的簇,可将密度足够大的相邻区域连接,能有效处理异常数据。
3.总结
今天的聚类就到这里,好像机器学习里面K均值聚类这些都可以通过python来实现,感兴趣的小伙伴可以用python的机器学习的库去实现以下。