一 定义
拉普拉斯特征映射是通过构建邻接矩阵为W的图来重构流行数据的局部结构和特征。
我们的额目的是让相似的数据样例i和j,降维后的目标子空间尽量相近。
二 目标函数
最终计算 拉普拉斯矩阵L的特征向量和特征值 Ly= λDy
其中
邻接矩阵W为
对角矩阵D是图的度矩阵
L=D−W为图的拉普拉斯矩阵
三 步骤
使用时算法具体步骤为:
步骤1:构建图
使用某一种方法来将所有的点构建成一个图,例如使用KNN算法,将每个点最近的K个点连上边。K是一个预先设定的值。
步骤2:确定权重
确定点与点之间的权重大小,例如选用热核函数来确定,如果点ii和点jj相连,那么它们关系的权重设定为:
步骤3:特征映射
计算拉普拉斯矩阵L的特征向量与特征值,使用最小的m个非零特征值对应的特征向量作为降维后的结果输出。
四 实例
上图所示左边的图表示有两类数据点(数据是图片),中间图表示采用拉普拉斯特征映射降维后每个数据点在二维空间中的位置,右边的图表示采用PCA并取前两个主要方向投影后的结果,可以清楚地看到,在此分类问题上,拉普拉斯特征映射的结果明显优于PCA。
参考:https://blog.csdn.net/qrlhl/article/details/78066994?locationNum=2&fps=1