奇异值分解SVD

1.特征分解

 特征向量在矩阵中是“竖着写”的。

 特别地，如果 A 是实对称矩阵，那么特征分解等价于正交分解：

只有可对角化的矩阵才能进行特征分解，特征分解其实也就是对角化的过程。实对称矩阵一定可以对角化，它有 n 个线性无关的特征向量。

2.奇异值分解

1.定义

       特征分解是针对方阵而言的，而奇异值分解可以处理非方阵情形。仅考虑实值矩阵（奇异值分解也可以处理复值矩阵）。

设 A 是 m 行 n 列的实值矩阵，奇异值分解的形式如下：

其中 U 和 V 分别是 m 和 n 维的正交矩阵， Σ 是一个 m 行 n 列的“类对角矩阵”，并且对角线元素非负，而且是降序