类似于特征分解,我们可以重新将 A 写作
A = Vdiag(λ)
奇异值分解是类似的,只不过这回我们将矩阵 A 分解成三个矩阵的乘积:
A = UD
假设 A 是一个 m×n 的矩阵,那么 U 是一个 m×m 的矩阵,D 是一个 m×n
的矩阵,V 是一个 n × n 矩阵,矩阵 U 和 V 都定义为正交
矩阵,而矩阵 D 定义为对角矩阵。注意,矩阵 D 不一定是方阵
对角矩阵 D 对角线上的元素被称为矩阵 A 的奇异值(singular value)。矩阵
U 的列向量被称为左奇异向量(left singular vector),矩阵 V 的列向量被称右奇异
向量(right singular vector)
其中,因为
A = UDVD
A = U