数学-奇异值

有点名词党

奇异值的计算通常涉及矩阵的奇异值分解Singular Value Decomposition, SVD。奇异值分解是将一个矩形矩阵 ( A ) 分解为三个矩阵的乘积：

[ A = U ΣVT]

其中：

- ( U ) 是一个 ( m ×m ) 的正交矩阵，它的列向量是 ( A AT) 的特征向量。

- ( V ) 是一个 ( n ×n ) 的正交矩阵，它的列向量是 ( ATA ) 的特征向量。

- ( Σ) 是一个 ( m ×n ) 的对角矩阵，对角线上的非负数称为奇异值，其余位置上的元素都是零。

计算奇异值的步骤如下：

1. **计算 ( ATA ) 和 ( A AT)：** 对给定的矩阵 ( A ) 计算 ( ATA ) 和 ( A AT)。

2. **计算特征值：** 分别计算 ( ATA ) 和 ( A AT) 的特征值。

3. **计算奇异值：** 奇异值是 ( ATA ) 或 ( A AT) 的特征值的平方根。具体来说，( ATA ) 的特征值 ( λ) 与 ( A ) 的奇异值 ( σ) 之间的关系是 ( σ= λ)。

4. **排序奇异值：** 将计算得到的奇异值按照从大到小的顺序排列，这些值就是 ( Σ) 对角线上的元素。

特征值和奇异值是两个不同的概念，它们之间的关系取决于矩阵的结构和大小。
对于一个方阵（即行数和列数相等的矩阵），其特征值和奇异值是有直接关系的。在这种情况下，方阵的特征值的平方确实等于奇异值的平方。这是因为方阵的奇异值分解与其特征值分解是等价的，奇异值就是特征值的绝对值。
但是，对于一个长方形矩阵（即行数和列数不相等的矩阵），情况就不同了。长方形矩阵没有特征值（因为它不是方阵，不能被对角化），但可以有奇异值。在这种情况下，奇异值是由矩阵的谱范数（即最大奇异值）和列空间、行空间的几何关系决定的，并不直接对应于特征值的平方。
总结来说：
- 对于方阵，特征值的绝对值等于奇异值。
- 对于长方形矩阵，没有特征值，但有奇异值，且奇异值的计算与特征值无关。
因此，不能简单地说特征值是奇异值的平方，这种关系只适用于方阵，并且是在特征值的绝对值和奇异值之间。对于非方阵，我们必须使用奇异值分解来计算奇异值。

在实际应用中，通常使用数值计算软件（如MATLAB、NumPy）提供的函数来计算奇异值，因为这些软件已经对奇异值分解算法进行了优化，能够高效且准确地计算奇异值。例如，在Python中，可以使用NumPy库的 `numpy.linalg.svd` 函数来计算矩阵的奇异值分解。