凝聚式层次聚类 java_凝聚法层次聚类之ward linkage method

凝聚法分层聚类中有一堆方法可以用来算两点(pair)之间的距离：欧式，欧式平方，manhattan等，还有一堆方法可以算类(cluster)与类之间的距离，什么single-linkage、complete-linkage、还有这个ward linkage。(即最短最长平均，离差平方和)

其他的好像都挺好理解，就是最后这个有点麻烦。。。

这个方法说白了叫离差平方和(这是个啥？)。是ward写那篇文章时候举的一个特例。这篇文章是说分层凝聚聚类方法的一个通用流程。在选择合并类与类时基于一个object function optimise value，这个object function可以是任何反应研究目的的方程，所以许多标准的方法也被归入了。为了阐明这个过程，ward举了一个例子，用的object function 是error sum of squares(ESS)，这个例子就成为ward's method。

找了N多资料，终于把这个算法的过程搞清楚了。首先输入的是一个距离矩阵，知道每两个点之间的距离。然后初始化是每个点做为一个cluster，假设总共N组，此时每个组内的ESS都是0，ESS的公式，如下(从原稿《Hierarchical Grouping To Optimize An Objective Function》上摘的)：

我当时还有点蒙ESS是个啥？——我现在知道了，凡是蒙的都是概率没学好(我是说我)……先从wiki上转个公式过来：

这是方差的公式，写的再通俗点，就是：