局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization, LR-MvNMF)是一种专门设计用于处理多视图数据的非负矩阵分解(NMF)算法。

多视图数据指的是从不同角度或来源观察同一组对象的数据,每个视图可能强调了数据的不同方面。

LR-MvNMF结合了NMF图正则化技术,以利用不同视图之间的局部结构信息,从而在保持各视图的内在结构的同时,学习更加鲁棒和全面的表示。

LR-MvNMF的公式

考虑一组数据有 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_学习 个不同的视图,每个视图都可以表示为一个非负矩阵 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_02

目标是将每个视图 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_02 分解为两个非负矩阵 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_04基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_05 的乘积,其中 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_05所有视图共享的矩阵,而 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_04特定于视图 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_08

目标函数

LR-MvNMF的目标函数通常包含三个主要组成部分:重建误差项图正则化项一个可选的正则化项来控制矩阵的稀疏性或平滑性。目标函数可以表示为:

基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_09

其中,

  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_10 是Frobenius范数下的重建误差,衡量了 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_11基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_12
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_学习_13 是第 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_14 视图的拉普拉斯矩阵,它来源于视图的图结构。
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_学习_15 是矩阵的迹,用于计算图正则化项。
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_16控制图正则化项强度的超参数。
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_17 是一个可选的正则化项基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_18
公式中的每个字符
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_11 : 第 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_14 视图的非负数据矩阵。
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_21 : 第 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_14 视图的基矩阵,用于表示视图特有的信息
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_23 : 共享的混和矩阵,表示跨所有视图的共同信息。
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_学习_13 : 第 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_14 视图的拉普拉斯矩阵,它基于视图的图结构,用于保持视图内的局部结构。
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_16
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_17 : 一个正则化项,可以是 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_21基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_23
  • 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_18 : 控制正则化项 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_17
解释
  • 重建误差项 确保 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_数据_12 尽可能地近似 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_11 ,这是NMF的基本目标。
  • 图正则化项 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_34 确保 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_23 中的表示能够保持每个视图中数据点的局部结构,这意味着相似的数据点在 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_23
  • 正则化项 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_17 可以用于控制 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_21基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_正则化_23 的复杂性,防止过拟合。
解决方案

LR-MvNMF通常使用迭代优化算法求解,如梯度下降或交替最小二乘法(ALS)。

在每一轮迭代中,算法会交替地更新 基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_矩阵_04基于非负矩阵分解的多视图学习——局部正则化的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization)_线性代数_05

LR-MvNMF算法通过利用多视图数据中的互补信息和保持每个视图的局部结构,能够生成更加鲁棒和富有信息的表示,这在多模态数据分析、图像识别、文本挖掘等领域有广泛的应用。