SVD分解

转自https://www.cnblogs.com/pinard/p/6251584.html
奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用SVD的。
**

1. 回顾特征值和特征向量**

我们首先回顾下特征值和特征向量的定义如下：
Ax=λx
其中A是一个n×n
的矩阵，x是一个n维向量，则我们说λ是矩阵A的一个特征值，而x是矩阵A的特征值λ

所对应的特征向量。

求出特征值和特征向量有什么好处呢？ 就是我们可以将矩阵A特征分解。如果我们求出了矩阵A的n
个特征值λ1≤λ2≤…≤λn,以及这n个特征值所对应的特征向量{w1,w2,…wn}，，如果这n个特征向量线性无关，那么矩阵A就可以用下式的特征分解表示：
A=WΣW−1

其中W是这n
个特征向量所张成的n×n维矩阵，而Σ为这n个特征值为主对角线的n×n

维矩阵。

一般我们会把W的这n
个特征向量标准化，即满足||wi||2=1, 或者说wTiwi=1，此时W的n个特征向量为标准正交基，满足WTW=I，即WT=W−1

, 也就是说W为酉矩阵。

这样我们的特征分解表达式可以写成
A=WΣWT

注意到要进行特征分解，矩阵A必须为方阵。那么如果A不是方阵，即行和列不相同时，我们还可以对矩阵进行分解吗？答案是可以，此时我们的SVD登场了。
**

2. SVD的定义**

SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n
的矩阵，那么我们定义矩阵A的SVD为：
A=UΣVT

其中U是一个m×m
的矩阵，Σ是一个m×n的矩阵，除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，V是一个n×n的矩阵。U和V都是酉矩阵，即满足UTU=I,VTV=I。下图可以很形象的看出上面SVD的定义：那么我们如何求出SVD分解后的U,Σ,V

这三个矩阵呢？

如果我们将A的转置和A做矩阵乘法，那么会得到n×n
的一个方阵ATA。既然ATA是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
(ATA)vi=λivi

这样我们就可以得到矩阵ATA
的n个特征值和对应的n个特征向量v了。将ATA的所有特征向量张成一个n×n

的矩阵V，就是我们SVD公式里面的V矩阵了。一般我们将V中的每个特征向量叫做A的右奇异向量。

如果我们将A和A的转置做矩阵乘法，那么会得到m×m
的一个方阵AAT。既然AAT是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
(AAT)ui=λiui

这样我们就可以得到矩阵AAT
的m个特征值和对应的m个特征向量u了。将AAT的所有特征向量张成一个m×m

的矩阵U，就是我们SVD公式里面的U矩阵了。一般我们将U中的每个特征向量叫做A的左奇异向量。

U和V我们都求出来了，现在就剩下奇异值矩阵Σ
没有求出了。由于Σ除了对角线上是奇异值其他位置都是0，那我们只需要求出每个奇异值σ

就可以了。

我们注意到:
A=UΣVT⇒AV=UΣVTV⇒AV=UΣ⇒Avi=σiui⇒σi=Avi/ui

这样我们可以求出我们的每个奇异值，进而求出奇异值矩阵Σ

。

上面还有一个问题没有讲，就是我们说ATA
的特征向量组成的就是我们SVD中的V矩阵，而AAT的特征向量组成的就是我们SVD中的U矩阵，这有什么根据吗？这个其实很容易证明，我们以V矩阵的证明为例。
A=UΣVT⇒AT=VΣTUT⇒ATA=VΣTUTUΣVT=VΣ2VT

上式证明使用了:UTU=I,ΣTΣ=Σ2。
可以看出ATA的特征向量组成的的确就是我们SVD中的V矩阵。类似的方法可以得到AAT

的特征向量组成的就是我们SVD中的U矩阵。

进一步我们还可以看出我们的特征值矩阵等于奇异值矩阵的平方，也就是说特征值和奇异值满足如下关系：
σi=√

这样也就是说，我们可以不用σi=Avi/ui
来计算奇异值，也可以通过求出ATA的特征值取平方根来求奇异值。