SAS 聚类分析—— K-均值聚类

K-均值方法，有时也叫劳埃德方法或 Lioyd-Forgy 方法。
K-均值聚类的核心思想是 为指定划分数目的最佳划分。
对于 n 个观测，每个观测是 m 维的实数向量，现在需要找到 k 个聚类 （其中 k <= n,即 n 个子集），使得每个类别分组内的方差最小化。

• K-均值聚类的基本步骤如下：

1.随机选取 k 个真实/或虚拟的数据点作为初始质心（即 选择 k 个样品作为初始凝聚点，或者将所有样品分成 k 个初始类，然后将这 k 个类的重心（均值）作为初始凝聚点）。初始质心的选择对聚类结果具有重要影响，因此如何科学选择这些初始质心很重要，一般选择彼此尽可能远的若干样本。

2.分配类别阶段：对所有的样品逐个归类，将每个样品归入凝聚点离这个样品最近的那个类（通常采用欧氏距离）。例如：计算第一个样品分别到第 k 个类（均值）的欧式距离，将第一个样品归到欧氏距离小的那一个类，如果第一个样品在归类之前就已经在这个类当中，就不需要重新分配（移动）。

3.更新质心阶段：通过第2步的归类步骤，有一个新的样品归入了那个类，所以要重新计算这 k 个类别的均值，这 k 类的凝聚点更新为这一类目前的均值，直至所有样品都归了类。例如：计算第二个样品到新的 k 个类的均值的距离，将第二个样品归类到距离小的那个类中去。

4.重复步骤2和步骤3，直至所有的样品都不能再分配为止。

下面看一个具体例子：（例子来源于王学民编著的《应用多元统计分析》第五版）
下表列出各个国家和地区男子径赛记录的数据，使用 k 均值法进行聚类分析，聚类前先对各变量作标准化变换。（限于篇幅，我就只截取了部分数据供大家参考）

使用SAS代码进行 K-均值聚类 ：

libname txy "D:\SASljk";
run;
proc standand data=txy.exec65 mean=0 std=1 out=stan;
proc fastclus data=stan maxc=5 drift list;
    var x1-x8;
    id nation;
run;

程序说明：
① “proc standard”是一个标准化过程，将SAS数据集中的指定变量按给定的均值和标准差进行标准化变换；
② 选项“mean=0 std=1”规定按均值为 0 、标准差为 1 进行标准化变换；
③ 选项“out = stan”要求生成一个包含标准化值的新数据集，并命名为 stan 。
注意：这里 stan 数据集名前面没有加逻辑库名，所以是默认保存在 work 临时逻辑库里面的。
④“proc fastclus”是一个动态聚类过程（或快速聚类过程）
⑤“maxc=5”’指定所允许的最大分类个数为 5
⑥选项“drift”表明使用 k 均值法
⑦选项“list”要求列出各观测所聚的类别

注：proc fastclus 的系统耗时与样本量 n 成正比，因此它是一种快速聚类方法，可用于处理较大规模的数据集。实践中一般将它用于较大规模数据的预先处理形成分区，然后使用 proc cluster 再次聚类。
但对于小数据量的数据，聚类结果可能因初始凝聚点的选择而对样本出现顺序敏感。而且由于 K-均值方法受数值较大的变量影响更大，通常需要对样本数据先做标准化处理。

SAS输出结果：

• 初始凝聚点：（5个）
  
• 观测所归类及与最终凝聚点的距离
  
• 聚类汇总
  
• 各变量的类内均值及标准差
  
  由输出结果知道，系统选择了 5 个点作为初始种子（质心），并最终形成了 5 个聚类。
  通过聚类列表，可以看出哪些国家和地区的男子径赛记录被划分成了一类。