经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）...

Ch Zh

于 2024-07-16 04:01:30 发布

阅读量15

点赞数

文章标签：学习学习方法

局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）是一种用于降维的线性投影方法，它结合了局部保持投影（LPP）和全局判别信息。

这种方法的目标是在保持数据局部结构的同时，最大化不同类别的可分性，从而在降维后的空间中提高分类性能。

核心思想

LP-GDP通过在降维过程中保留样本的局部几何结构，同时利用全局的类别信息来增强不同类别的可分性。

这种方法在处理高维数据时特别有效，因为它能够保持数据的内在局部邻域关系，同时利用判别信息来提升分类性能。

目标函数

LP-GDP的目标函数可以表示为：

经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_邻接矩阵

其中：

是我们要找的投影矩阵。
是类内散度矩阵，它描述了同一类别内部的样本差异。
是类间散度矩阵，它描述了不同类别之间的差异。
是一个调节参数，用于平衡局部保持和全局判别信息的重要性。

公式解析

类内散度矩阵

类内散度矩阵经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_学习_06 描述了同一类别内部的样本差异。在LPP中，它通常是基于样本的邻域图构建的，但在LP-GDP中，它可能被重新定义以考虑全局判别信息。

经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_学习方法_08

其中：

是度矩阵，对角线元素等于邻接矩阵 中每一行的和，非对角线元素为0。度矩阵反映每个样本的权重或重要性。
是邻接矩阵，如果样本和是邻居，则，否则。邻接矩阵反映了样本之间的邻域关系。

类间散度矩阵

类间散度矩阵经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_特征值_16 描述了不同类别之间的差异，它通常由类中心的距离构成。

经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_邻接矩阵_18

其中：

是类别数。
是第 类的样本数。
是第 类的样本均值向量。
是所有样本的总均值向量。

优化问题

LP-GDP的目标函数是一个二次优化问题，可以通过求解广义特征值问题来找到最优的投影矩阵 经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_学习_25 。

经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_邻接矩阵_26

其中经典子空间学习的多视图学习方法——局部保持全局判别投影（Locally Preserving Global Discriminative Projection, LP-GDP）_邻域_27 是广义特征值。通过求解这个特征值问题，我们可以找到，它能够最小化类内散度，同时最大化类间散度，从而在降维后的空间中提高不同类别的可分性。