CMU的一篇文章,发表在PAMI上的,文章虽然是对图像进行处理,但是在其他地方都有广泛的应用。
一个简单的想法,是按照graph theory里面的min-cut想法,每个元素都是一个点,点点之间的关系用weight表示,分成一个个组之间的weight权值最小,也就是一个min-cut。但是这样的产生的问题如上图,分离出一个点显然是一个min-cut(这里用的weight是欧氏距离的倒数,所以分割的是n1,n2两个点),而实际想分成的组是左右两大部分。
idea:如何分组,先看一个简单的问题
一个简单的想法,是按照graph theory里面的min-cut想法,每个元素都是一个点,点点之间的关系用weight表示,分成一个个组之间的weight权值最小,也就是一个min-cut。但是这样的产生的问题如上图,分离出一个点显然是一个min-cut(这里用的weight是欧氏距离的倒数,所以分割的是n1,n2两个点),而实际想分成的组是左右两大部分。
问题产生的原因是这里的权值只是一个local的权值,并没有考虑到整体的效应。本文提出了一个考虑全局的方法。
下面是如何解决这个问题。用向量x表示所有的点属于A还是B.属于A,1,否则是-1.
1+x可以得到属于A的部分,1-x得到B的部分。d表示每个点与其他所有点的权值之和,D是这样的一个对角阵。W是权值矩阵。k是A中所有点d之和占全部点的比重。
1+x可以得到属于A的部分,1-x得到B的部分。d表示每个点与其他所有点的权值之和,D是这样的一个对角阵。W是权值矩阵。k是A中所有点d之和占全部点的比重。
最后得到的这样一个方程是Rayleigh Quotient,最小值就是下面方程的最小特征根。
(D-W)y=Dy.