浅谈矩阵分解以及应用（3）

    这次讲一下奇异值分解（SVD），首先说明纯粹是抛砖引玉之举，毕竟我刚学习了矩阵理论，对于大名鼎鼎的SVD可谓知之甚少。

首先推荐几篇paper讲SVD的：《A Singularly Valuable Decomposition The SVD of a Matrix》，《Sketched SVD Recovering spectral features from》，《The extraodinary SVD
》。

发几个SVD的链接，对于学习SVD很有用的：http://www.cnblogs.com/LeftNotEasy/archive/2011/01/19/svd-and-applications.html

还有一个当然是维基百科：http://en.wikipedia.org/wiki/Singular_value_decomposition。英文的wiki是个好东东，真的。

再就是本论坛的一篇博客：http://blog.csdn.net/ningyaliuhebei/article/details/7104951

所以我在这儿就不板门弄斧了。

那我写什么呢？一是学习SVD的感受：svd很强大啊，任何矩阵用它都可以被分解成为正交阵乘以对角阵（对应于矩阵本身的）再乘以一个正交阵的转置。其中，对角阵的对角线元素叫做奇异值（这也是奇异值分解的来历），是待分解矩阵A与A 转置乘积的特征值的平方根。

    这样，我们就可以实现对于矩阵的很多操作了，我们可以对二维或者三维的物体（刚体）做旋转以及伸缩，我们只需要计算出对应的正交阵以及奇异值就行。当然还有PCA和LSI，相信搞ML和AI以及PR的对于这些属于都耳闻。

我只是简要提一下这些术语，因为我自己也不是很明白……

SVD的一个用途就是求解矩阵的广义逆。

再谈谈自己对于SVD的感受，首先是很强大，其次是很有用，然后就是我至今没有搞懂左右两个正交阵的物理意义。

在稍微介绍一下非负分解（NMF）。NMF是在矩阵中所有元素均为非负数约束条件之下的矩阵分解方法，最初是由美国两位科学家D．D．Lee和H．S．
Seung在《nature》上发表的，然后引起广泛关注和研究以及应用。特别是在我上面所说的那几个方面。中文具体可参考：《非负矩阵分解：数学的奇妙力量》这篇文章。

希望与大家共同学习！！