SVD

 对于方阵，我们都知道能够进行特征值分解，分解后能得到一些特征值和对应的特征向量。

 那么问题就来了，对于不是方阵的矩阵来说该用什么来显示这个矩阵的特征呢？

 奇异值分解SVD就很好的解决了这个问题。

 | M*N |= | M*M | * | M*N | * | N*N |

 其中 | M*N | 是仅含奇异值的矩阵，左右两边都是奇异向量，并且里面左奇异向量与右奇异向量矩阵里面都是正交向量。

奇异值分解其实是对这个矩阵转换成方阵后（乘转置）进行方阵特征值分解。

如下：

  

这里 σ 就是右边| M*N | 里面的奇异值了，在矩阵中和特征值一样从大到小排列。

        Vi 就是右奇异向量了，Ui是左奇异向量

应用：

SVD分解一般可以用在很多，拟合、优化上，比如平面、直线拟合等