奇异值分解-通俗教程

Singular value Decomposition(SVD) A Fast Track Tutorial这篇论文对奇异值分解以实例的形式进行了很简单直观的解释，看完之后给人恍然大悟的感觉，特拿过来分享一下。

 

 

以下是从wiki上拿过来的概念解释：

---

1.  奇异值分解（singular value decomposition）是线性代数中一种重要的矩阵分解。

假设M是一个m×n阶矩阵，其中的元素全部属于域K，也就是实数域或复数域。如此则存在一个分解使得

                                                       

其中 U是m×m阶酉矩阵；

E是m×n阶非负实数对角矩阵；

而V*，即V的共轭转置(也即V的转置)，是n×n阶酉矩阵。

这样的分解就称作M的奇异值分解。

E对角线上的元素 即为M的奇异值。

常见的做法是将奇异值由大而小排列。如此E便能由M唯一确定了。（虽然U和V仍然不能确定。）

(1）若一n行n列的复数矩阵U满足

                                                           

其中为n阶单位矩阵，为U的共轭转置，则U称为酉矩阵（又译作幺正矩阵、么正矩阵。英文：Unitary Matrix, Unitary是归一或单位的意思）。

即，矩阵U为酉矩阵，当且仅当其共轭转置为其逆矩阵：

                                                        

（2）共轭转置矩阵的共轭转置（又称埃尔米特共轭、埃尔米特转置）定义为：

                                                                   

 其中，是矩阵A的转置，表示对矩阵A中的元素取复共轭。

例子：

 

(3)  其他符号的解释

      E对角线上的元素为M的奇异值（即M的特征值开平方） 

      V是特征向量组成的矩阵