特征工程: 非负矩阵分解 (附: VQ, PCA, NMF)

附：VQ，PCA，NMF

通俗点说，VQ是用一张完整的图像直接代表源脸部图像; PCA是将几个完整人脸加减压成一张脸;而NMF是取甲的眼睛，乙的鼻子，丙的嘴巴直接拼成一张脸。这样解释虽然细节上略有不妥，但不失其概念上的意义。

一。非负矩阵分解（NMF）

1.原理，应用简介

什么是？
NMF是由Lee和Seung在自然杂志上提出的一种矩阵分解方法，它使得分解后的所有分量均为非负值，并且同时实现非线性的维数约减。传统的矩阵分解大矩阵被分解V = WH形式。这些方法的共同点是，因子W和H中的元素可为正或负，但负值元素在实际问题中往往是没有意义的。例如图像数据中不可能有负值的; 在文档统计中，负值也是无法解释的。  

基本思想：
对于任意给定的一个非负矩阵A，NMF算法能够寻找到一个非负矩阵U和一个非负矩阵V，使得满足，从而将一个非负的矩阵分解为左右两个非负矩阵的乘积。

基本原理：  <