局部正则化
的多视图非负矩阵分解(Locally Regularized Multi-view Non-negative Matrix Factorization, LR-MvNMF)是一种专门设计用于处理多视图数据的非负矩阵分解
(NMF)算法。
多视图数据指的是从不同角度或来源观察同一组对象的数据,每个视图可能强调了数据的不同方面。
LR-MvNMF结合了NMF
和图正则化
技术,以利用不同视图之间的局部结构信息,从而在保持各视图的内在结构的同时,学习更加鲁棒和全面的表示。
LR-MvNMF的公式
考虑一组数据有 个不同的视图,每个视图
都可以表示为一个非负矩阵
目标是将每个视图 分解为两个非负矩阵 和 的乘积,其中 是所有视图共享的矩阵
,而 是特定于视图
目标函数
LR-MvNMF的目标函数通常包含三个主要组成部分:重建误差项
、图正则化项
和一个可选的正则化项
来控制矩阵的稀疏性或平滑性
。目标函数可以表示为:
其中,
- 是Frobenius范数下的
重建误差
,衡量了 和 - 是第 视图的
拉普拉斯矩阵
,它来源于视图的图结构。
- 是矩阵的迹,用于
计算图正则化项。
- 是
控制图正则化项强度的超参数。
- 是一个
可选的正则化项
,
公式中的每个字符
- : 第 视图的
非负数据矩阵。
- : 第 视图的
基矩阵
,用于表示视图特有的信息
。 - :
共享的混和矩阵
,表示跨所有视图的共同信息。
- : 第 视图的
拉普拉斯矩阵
,它基于视图的图结构,用于保持视图内的局部结构。
- : 一个正则化项,可以是 或
- : 控制正则化项
解释
- 重建误差项 确保 尽可能地近似 ,这是NMF的
基本目标。
- 图正则化项 确保 中的表示
能够保持每个视图中数据点的局部结构
,这意味着相似的数据点在 - 正则化项 可以用于控制 和 的复杂性,
防止过拟合。
解决方案
LR-MvNMF通常使用迭代优化算法求解,如梯度下降或交替最小二乘法(ALS)。
在每一轮迭代中,算法会交替地更新 和
LR-MvNMF算法通过利用多视图数据中的互补信息和保持每个视图的局部结构,能够生成更加鲁棒和富有信息的表示,这在多模态数据分析、图像识别、文本挖掘等领域有广泛的应用。