清风数学建模学习笔记——K-means聚类模型详解及SPSS操作流程

本文链接：https://blog.csdn.net/weixin_43819566/article/details/113794705

本文详细介绍了K-means聚类算法及其改进版K-means++，包括流程、图解和优缺点，同时展示了如何在SPSS中操作。探讨了K-means的局限性和K-means++的优化，以及如何选择合适的K值和处理量纲问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

聚类模型

聚类模型，就是将样本划分为有类似的对象组成的多个类的过程。聚类后，我们可以更加准确的在每个类中单独使用统计模型进行估计、分析或预测；也可以探究不同类之间的相关性和主要差异。此外，聚类与分类的群别在于分类是已知类别的，而聚类是未知的。

文章目录

一、K-means聚类算法

1.1 流程

指定需要划分的簇的个数K值（类的个数）;
随机地选择K个数据对象作为初始的聚类中心（不一定要是我们的样本点）;
计算其余的各个数据对象到这K个初始聚类中心的距离，把数据对象划归到距离它最近的那个中心所处在的簇类中;
调整新类并且重新计算出新类的中心;
循环步骤三和四，看中心是否收敛（不变），如果收敛或达到迭代次数则停止循环;
结束。

1.2 图解 K-means

在这里插入图片描述

1.3 算法的缺点

要求用户必须事先给出要生成的簇的数目k
对初值敏感
对于孤立点数据敏感

二、K-means++算法

K-means++算法选择初始聚类中心的基本原则是：初始的聚类中心之间的相互距离要尽可能的远。

2.1 流程

随机选取一个样本作为第一个聚类中心;
计算每个样本与当前已有聚类中心的最短距离（即与最近一个聚类中心的距离），这个值越大（距离越大），表示被选取作为聚类中心的概率较大；最后，用轮盘法（依据概率大小来进行抽选）选出下一个聚类中心;
重复步骤二，直到选出 K 个聚类中心。选出初始点后，就继续使用标准的 K-means 算法了。

2.2 图解

假设平面内存在5个点，随机选取 A 为聚类中心作为第一个聚类中心，计算其余 4 个样本与当前聚类中心的最短距离，这个值越大，表示被选取作为聚类中心的概率较大（如图1）。利用轮盘法选择 D 作为第二个聚类中心（也可以选择E）。选择 D 作为第二个聚类中心，求第一个聚类中心 A 与第二个聚类中心 D 的重心，并将其作为一个虚拟的聚类中心，求其他三个点B、C、E到虚拟聚类中心的距离，并计算相对的概率（如图2），并用轮盘法选择下一个聚类中心… 直到选择出 K 个聚类中心然后进行 K-means 算法。

在这里插入图片描述

2.3 算法的缺点

K-means++算法虽解决了 K-means 算法的初值敏感、边界值敏感两种问题。但 K 还是需要手动选取，所以 K 应该取决于个人的经验与感觉，多尝试几组即可。
量纲不一致，也会出现问题，因此，需要用以下公式进行演算。zi=(xi-x平均)/x标准差，即减去均值再除以标准差。 即可消除量纲影响，当然也可以用 SPSS 进行操作。