基于非负矩阵分解的多视图学习——多元非负矩阵分解（Multivariate Non-negative Matrix Factorization, MV-NMF）

多元非负矩阵分解（Multivariate Non-negative Matrix Factorization, MV-NMF）是一种扩展的非负矩阵分解（NMF）方法，它旨在同时处理多个相关的非负数据矩阵，这些矩阵可能来源于同一组对象的不同观测视图或在不同条件下的测量结果。

MV-NMF的目标是找到一组共同的潜在因素，这些因素能够解释所有相关矩阵的变异性和结构，同时保持非负性的约束。

MV-NMF的基本思想

假设我们有 $M$ 个不同的非负数据矩阵 { V 1 , V 2 , . . . , V M } \{V^1, V^2, ..., V^M\} {V1,V2,...,VM} ，其中每个矩阵 $V^m$ 的维度都是 $I_m\times J$ 。

我们的目标是分解这些矩阵为一系列基矩阵 $W^m$ 和一个共有的混和矩阵 $H$ ，这样可以揭示出不同矩阵间共享的潜在结构。

MV-NMF的目标函数

MV-NMF的目标函数通常包含重建误差项，可以写作：

min ⁡ H , { W m } ∑ m = 1 M ∣ ∣ V m − W m H ∣ ∣ F 2 \min_{H, \{W^m\}} \sum_{m=1}^M ||V^m - W^mH||^2_F H,{Wm}min​m=1∑M​∣∣Vm−WmH∣∣F2​

其中，

• $W^m$ 是第 $m$ 个矩阵的基矩阵，尺寸为 $I_m\times K$ 。
• $H$ 是混和矩阵，尺寸为 $K\times J$ ，它是所有矩阵共享的。
• $K$ 是潜在因素的数量，也是 $W^m$ 和 $H$ 的公共维度。
• $||\cdot |{|}_F$ 是Frobenius范数，用来衡量矩阵之间的差异。

MV-NMF的公式解释

• $V^m$ : 表示第 $m$ 个观测矩阵，其中包含了关于一组对象的不同类型的测量或描述。
• $W^m$ : 第 $m$ 个观测矩阵的基矩阵，它捕捉了该矩阵的特定特性或模式。
• $H$ : 混和矩阵，它表示所有观测矩阵共享的潜在因素。
• $K$ : 潜在因素的数量，决定了 $W^m$ 和 $H$ 的公共维度，也反映了模型的复杂度。
• $||V^m-W^{m}H|{|}_F^2$ : 重建误差，度量了原矩阵 $V^m$ 和重构矩阵 $W^{m}H$ 之间的差异。

MV-NMF的求解

MV-NMF可以通过多种优化算法来求解，包括但不限于梯度下降、交替最小二乘法（Alternating Least Squares, ALS）等。

在每次迭代中，算法会交替地更新 $W^m$ 和 $H$ ，直到满足某个停止准则（如收敛或达到最大迭代次数）。

MV-NMF的应用

MV-NMF在多个领域都有应用，比如生物信息学中分析基因表达数据、计算机视觉中融合不同特征、信号处理中处理多通道数据等，特别是在需要综合分析多源数据并提取它们之间共通模式的场景下尤为有效。

MV-NMF的优势

相比于独立的NMF，MV-NMF能够利用数据间的相关性，提高分解结果的一致性和解释性，尤其是在数据量较小或噪声较大的情况下，共享的信息可以帮助提高模型的稳定性和泛化能力。