用电负荷相关聚类算法总结（1）

聚类算法总结

一、聚类方法分类

聚类算法大致可以分为划分聚类方法、层次聚类方法、密度聚类方法、网格聚类方法、模型聚类方法等。近年来，量子聚类方法、谱聚类方法、粒度聚类方法、概率图聚类方法、同步聚类方法等也流行起来。

• 1.1 基于划分的聚类算法
  基于划分的聚类算法通过构造一个迭代过程来优化目标函数，当优化到目标函数的最小值或极小值时，可以得到数据集的一些不相交的子集，通常认为此时得到的每个子集就是一个聚类。
  多数基于划分的聚类算法都是非常高效的，但需要事先给定一个在聚类分析前难以确定下来的聚类数目。k-means 算法[5]和 FCM(FuzzyC Means)算法是该类型中最著名的两个算法。另外，k-中心点算法 PAM(PartitioningAround Medoid)和 CLARA(Clustering LARgeApplications)、k-模算法(聚类分类数据)和k-原型算法(聚类混合数据)[25]也属于这种类型的算法。基于划分的聚类算法优点是易于实现，聚类速度快。其时间复杂度与数据点数目n、数据的维度d 及预先设定的聚类数目k 成线性关系。缺点是优化函数是个NP难问题，要搜索到最小值，时间代价高，且易陷入局部最小值。
• 1.2 层次聚类算法
  层次聚类方法使用一个距离矩阵作为输入，经过聚类后得到一个反映该数据集分布状
  况的聚类层次结构图。层次聚类算法通常分为两种。第一种是凝聚的层次聚类算法，它首先把每个数据点看作是一个聚类，然后以一种自底向上的方式通过不断地选择最近邻居聚类对的合并操作，最终可以构造出一棵代表着该数据集聚类结构的层次树。第二种是分裂的层次聚类算法，它首先把所有的数据点看作是一个聚类，然后以一种以自顶向下的方式通过不断地选择最松散簇进行分裂操作，最终可以构造出一棵代表着该数据集聚类结构的层次树。尽管层次聚类方法的时间代价高于划分聚类方法，但多数层次聚类算法并不需要事先设定一个难以确定的聚类数目这个参数，而且这类方法可以获得一种具有多个粒度的多层次聚类结构，这是它区别于划分聚类方法的最大优点。
• 1.3 基于密度的聚类算法
  基于密度的聚类算法试图通过稀疏区域来划分高密度区域以发现明显的聚类和孤立点，主要用于空间型数据的聚类。代表性的是DBSCAN算法。
• 1.4 基于网格的聚类算法
  基于网格的聚类算法是一种基于网格的具有多分辨率的聚类方法。它首先将数据集的分布空间划分为若干个规则网格(如超矩形单元)或灵活的网格(如任意形状的多面体)，然后通过融合相连的带数据概要信息的网格来获得明显的聚类。这类算法的优点是处理时间与数据点的数目无关、与数据的输入顺序无关，可以处理任意类型的数据。其缺点是 处理时间与每个维度上所划分的单元数相关，一定程度上降低了聚类的质量和准确性。代表性算法是STING(STatistical INformation Grid)算法。
• 1.5 基于模型的聚类算法
  基于模型的聚类算法借助于一些统计模型来获得数据集的聚类分布信息。该方法假定数据集是由有限个概率分布模型共同作用生成的。在这种方法中，多变量的高斯分布混合模型应用最为广泛。其中，COBWEB 算法是一个常用的、简单的增量式概念聚类方法，它采用分类树的形式来表现层次聚类结果。
• 1.6 基于图的聚类算法
  采用图聚类方法进行聚类分析时，首先是建立与具体问题相适应的图。图的结点代表被分析数据的基层单元，图的边代表基层单元数据之间的相似性度量(或相异性度量)。通常，每个基层单元数据之间都会有一个度量表达，这样可以保持数据集的局部分布特性。图聚类方法是以数据集的局部连接特征作为聚类的主要信息源，因而易于处理局部数据的特性。Karypis 等提出的变色龙算法也可看作是一种图聚类算法。
• 1.7 其他聚类算法
  量子聚类方法借用了量子学理论，先是从源数据中创建一个基于空间尺度的概率函数，接着使用一些分析操作来获得一个根据极小值来确定聚类中心的势函数，最终通过调整尺度参数来搜索聚类结构。
  谱聚类(Spectral Clustering)方法通过源数据的相似度矩阵来计算特征值，进而可以发现明显的聚类区域。许多谱聚类算法都易于实现，其效果优于传统的聚类算法，如k-means，它们在许多应用中也都获得了成功的实现。用于图像划分的 Shi-Malik 算法就是基于谱聚类方法开发出来的。
  基于粒度的聚类方法，是从信息粒度角度上发展起来的一个新的聚类研究方向。目前这种聚类方法的研究还不太成熟，尤其是对粒度计算语义的研究还比较少。
  概率图聚类方法是近年来流行起来的一种聚类方法。最著名的概率图聚类方法要数2007 年发表在《Science》上面的 AP(AffinityPropagation)聚类算法。
  同步聚类算法——SynC (Synchronization Clustering)算法。该算法不仅可以在不知道数据集的任何分布情况下，通过动态的同步过程来发现它的内在结构，并能很好地处理孤立点，还能使用最小描述长度原理来实现自动聚类。
  由于基于网格的算法主要用于处理空间数据，而电力负荷曲线是一种时间序列，本文重点研究其他类型的聚类算法。

二、电力负荷聚类方法

目前的电力负荷曲线聚类的方法很多，比较流行的有Kmeans 聚类、小波分析、模糊C 均值聚类算法（FCM）、集成聚类算法、自组织特征映射神经网络（SOM）、极端学习机（ELM）、云模型等，同时还有一些在这些算法的基础上进行改进的算法。

• 1.1 聚类有效性
  聚类有效性研究是通过建立有效性指标，评价聚类质量并确定最佳聚类数的过程。典型的聚类有效性指标有误差平方和(sum of squared error，SSE) 、Calinski-Harabasz 指标(Calinski-HarabaszIndex，CHI)、Davies-Bouldi 指标(Davies-BouldinIndex，DBI)等。
  1）SSE 指标。
  误差平方和 SSE 指标ISSE 用一个子类到所在类簇的聚类中心的欧氏距离来表示，即：

d(ci , x)为向量间的欧氏距离。随着聚类数增多，ISSE会减小，SSE 曲线的拐点表示在该点后再增加聚类数时误差平方和的减小幅度很小，因此可以将SSE曲线的拐点作为