非负矩阵分解（Nonnegative Matrix Factorization(NMF)）

非负矩阵分解（Nonnegative Matrix Factorization(NMF)）

• 由来：是由Lee and Seung 于1999年在自然杂志上提出的一种矩阵分解方法[1]。
• 目的：即NMF是在矩阵中所有元素均为非负数约束条件之下的矩阵分解方法
  • 优点：(1):处理大规模数据更快更便捷；(2):简便性、分解形式和分解结构上的可解释性，以及占用存储空间少等诸多优点。
  • 比较：(1):利用矩阵分解来解决实际问题的分析方法很多，如PCA(主成分分析)、ICA(独立成分分析 )、SVD( 奇异值分解)、VQ(矢量量化)等。
  • (2):这些方法的共同特点是，元素可为正或负，即使输入的初始矩阵元素是全正，传统的秩削减算法也不能保证原始数据的非负性。
  • (3): 在数学上，从计算的观点看，分解结果中存在负值是正确的，但负值元素在实际问题中往往是没有意义的。例如图像数据中不可能有负值的像素点；在文档统计中，负值也是无法解释的。
• 相关内容
• 非负矩阵分解(Non-negative Matrix Factorization,NMF)算法。是在矩阵中所有元素均为非负数约束条件之下的矩阵分解方法。即 维为非负矩阵，那么可以分解为两个非负矩阵维、维的乘积。
• ; (可以显着小于和,可以明显降低矩阵的维度。)
• 相关算法
• 1.乘法更新法(Multiplicative weight update method): Lee and Seung的乘法更新规则由于实现简单而成为一种流行的方法。该算法是：
  • 初始化：和非负。
  • 更新：由第次更新第次的、。
    • 
    • 
    • 注意：更新是基于第（i，j）元素而不是矩阵乘法完成的。