奇异值分解

        另一种分解矩阵的方法被称为奇异值分解，将矩阵分解为奇异值和奇异向量。通过奇异值分解，我们会得到一些与特征分解相同类型的信息。然而，奇异值分解有更加广泛的应用。每个实矩阵都有奇异值分解，但不一定都有特征分解。例如，非方阵的矩阵没有特征分解，此时我们只能使用奇异值分解。

        回想一下，我们使用特征分解去分析矩阵A时，得到由特征向量构成的矩阵V和由特征值构成的向量，我们可以重新将A写作：

       奇异值分解是类似的，只不过我们将矩阵A分解成三个矩阵的乘积：

      假设A为一个mxn的矩阵，那么U是一个mxm的矩阵，D是一个mxn的矩阵，V是一个nxn的矩阵。

      这些矩阵中的每一个经定义后都拥有特殊的结构，矩阵U和矩阵V定义为正交矩阵，矩阵D定义为对角矩阵。

      对角矩阵D对角线上的元素被称为矩阵A的奇异值。矩阵U的列向量被称为左奇异向量，矩阵V的列向量被称为右奇异向量。

      奇异值分解最有用的一个性质可能是拓展矩阵求逆到非方阵上。