奇异值分解(SVD)原理与在降维中的应用

奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用SVD的。

1. 回顾特征值和特征向量

我们首先回顾下特征值和特征向量的定义如下：
$$Ax=\lambda x$$
其中A是一个$n\times n$的实对称矩阵，$x$是一个$n$维向量，则我们说$\lambda$是矩阵A的一个特征值，而$x$是矩阵A的特征值$\lambda$所对应的特征向量。
求出特征值和特征向量有什么好处呢？ 就是我们可以将矩阵A特征分解。如果我们求出了矩阵A的$n$个特征值${\lambda }_1\le {\lambda }_2\le ...\le {\lambda }_n$，以及这$n$个特征值所对应的特征向量 { w 1 , w 2 , . . . , w n } \lbrace w_1,w_2,...,w_n\rbrace {w1​,w2​,...,wn​}，如果这nn个特征向量线性无关(正交)，那么矩阵A就可以用下式的特征分解表示：
$$A=W\sum W^{-1}$$
其中W是这n个特征向量所张成的$n\times n$维矩阵，而Σ为这n个特征值为主对角线的$n\times n$维矩阵。
一般我们会把W的这nn个特征向量标准化，即满足$||w_i|{|}_2=1$, 或者说$w_i^t{w}_i=1$,此时W的n个特征向量为标准正交基，满足$W^{T}W=1$,即$W^T=W^{-1}$, 也就是说W为酉矩阵。
这样我们的特征分解表达式可以写成
$$A=W\sum W^T$$
注意到要进行特征分解，矩阵A必须为方阵。那么如果A不是方阵，即行和列不相同时，我们还可以对矩阵进行分解吗？答案是可以，此时我们的SVD登场了。

2. SVD的定义

SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为：
$$A=U\sum V^T$$
其中U是一个m×m矩阵，Σ是一个m×n的矩阵，除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，V是一个n×n的矩阵。U和V都是酉矩阵，即满足$U^{T}U=I$,$V^{T}V=I$,$U^{T}U=I$,$V^{T}V=I$,下图可以很形象的看出上面SVD的定义：

那么我们如何求出SVD分解后的U,Σ,V这三个矩阵呢？
如果我们将A的转置和A做矩阵乘法，那么会得到n×n的一个方阵$A^{T}A$。既然$A^{T}A$是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
$$(A^{T}A)v_i={\lambda }_i{v}_i$$
这样我们就可以得到矩阵$A^{T}A$的n个特征值和对应的n个特征向量v了。将$A^{T}A$的所有特征向量张成一个n×n的矩阵V，就是我们SVD公式里面的V矩阵了。一般我们将V中的每个特征向量叫做A的右奇异向量。
如果我们将A和A的转置做矩阵乘法，那么会得到m×m的一个方阵$A{A}^T$。既然$A{A}^T$是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
$$(A{A}^T)u_i={\lambda }_i{u}_i$$
这样我们就可以得到矩阵$(A{A}^T)$的m个特征值和对应的m个特征向量u了。将$(A{A}^T)$的所有特征向量张成一个m×m的矩阵U，就是我们SVD公式里面的U矩阵了。一般我们将U中的每个特征向量叫做A的左奇异向量。
U和V我们都求出来了，现在就剩下奇异值矩阵Σ没有求出了。由于Σ除了对角线上是奇异值其他位置都是0，那我们只需要求出每个奇异值σ就可以了。
我们注意到:
$A=U\sum V^T⟹AV=U\sum V^{T}V⟹AV=U\sum ⟹A{v}_i={\sigma }_i{u}_i⟹{\sigma }_i=A{v}_i/u_i$
这样我们可以求出我们的每个奇异值，进而求出奇异值矩阵Σ
。。。。。。这里省略一些字
进一步我们还可以看出我们的特征值矩阵等于奇异值矩阵的平方，也就是说特征值和奇异值满足如下关系：
$${\sigma }_i=\sqrt{{\lambda }_i}$$

3. SVD计算举例

这里我们用一个简单的例子来说明矩阵是如何进行奇异值分解的。我们的矩阵A定义为：
$$A=\left(\begin{array}{cc}0& 1\\ 1& 1\\ 1& 0\end{array}\right)$$
我们首先求出$A^{T}A$和$A{A}^T$
$$A^{T}A=\left(\begin{array}{ccc}0& 1& 1\\ 1& 1& 0\end{array}\right)\left(\begin{array}{cc}0& 1\\ 1& 1\\ 1& 0\end{array}\right)=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right)$$
$$A{A}^T=\left(\begin{array}{cc}0& 1\\ 1& 1\\ 1& 0\end{array}\right)\left(\begin{array}{ccc}0& 1& 1\\ 1& 1& 0\end{array}\right)=\left(\begin{array}{ccc}1& 1& 0\\ 1& 2& 1\\ 0& 1& 1\end{array}\right)$$

4. SVD的一些性质

5. SVD小结

SVD作为一个很基本的算法，在很多机器学习算法中都有它的身影，特别是在现在的大数据时代，由于SVD可以实现并行化，因此更是大展身手。**SVD的原理不难，只要有基本的线性代数知识就可以理解，实现也很简单因此值得仔细的研究。**当然，SVD的缺点是分解出的矩阵解释性往往不强，有点黑盒子的味道，不过这不影响它的使用。