机器学习100天---day06 NMF非负矩阵分解

NMF，非负矩阵分解。这种方法只能应用于每个特征都是非负的数据。
基本思想：将大矩阵分解成两个小矩阵，使两个小矩阵相乘后能够尽可能的还原成大矩阵。
公式为：Vn∗m=Wn∗k∗Hk∗m
W矩阵：基础数据矩阵，相当于从V中抽取出K个特征，每一列表示一个特征，每行表示一个对象(比如：用户，图像像素)；它们的值表示用户与这一特征的相关性；
H矩阵：系数矩阵，表示系数m与特征k之间的关联。
矩阵优化目标:Vn∗m与Wn∗k∗Hk∗m之间的差值尽可能的小
则目标函数：Z2 = |Vn∗m - （Wn∗k∗Hk∗m）|2
损失函数：argminJ(W,H)=∑ij(XijlnXijWHij−Xij+WHij)
可计算W矩阵和H矩阵点积与W矩阵之间的差值，通过不断迭代，逐渐减少误差直至收敛。
可通过梯度下降法，找出梯度变化最快的方向，逐步更新矩阵W、H

NMF sklearn实现参考博客