流形算法的主要思想是能够学习高维空间中样本的局部邻域结构,并寻找一种子空间能够保留这种流行结构,
使得样本在投影到低维空间后,得到比较好的局部近邻关系。
所谓流形,是指高维样本空间中呈现的一种低维的局部性的结构。局部保留投影(LPP)方法是通过构建空间中各样本对之间的远近亲疏关系,并在投影中保持这种关系,在降维的
同时保留空间中样本的局部邻域结构, 即在低维空间中最小化近邻样本间的距离加权平方和,
也可以理解为尽量避免样本集的发散,保持原来的近邻结构。
设投影过后的样本为yi ,公式为 LPP 算法的目标函数。
从该方法的权值矩阵 S 的设置中可以看出,其在对应近邻样本的位置上赋了一个非零权
值,而对于相距较远的样本则赋零。这样就可以在投影中,达到保留样本的局部邻域(即样
本的流行结构)的目的。
公式的推导: