本博客主要用于本人重新复习知识点,所有参考列在文尾。如有错误,希望一起交流。
目录
基础知识
1. 奇异值分解
矩阵的 (完全) 奇异值分解: A = U Σ V T A = U \Sigma V^T A=UΣVT
其中 A A A 为 m × n m \times n m×n 实矩阵; U U U 和 V V V 为正交矩阵; Σ \Sigma Σ 为由降序排列的、非负的、对角线元素组成的 对角矩阵。
正交矩阵: U U T = I UU^T = I UUT=I
对角矩阵: Σ = d i a g ( σ 1 , . . . , σ p ) \Sigma = diag(\sigma_1,...,\sigma_p) Σ=diag(σ1,...,σp)
注意:A不要求是方阵,矩阵的奇异值分解可以看作是方阵对角化的推广。
2. 奇异值分解基本定理
任意给定一个实矩阵,其奇异值分解一定存在。 由下面的定理保证。
Thm 若 A A A 为一 m × n m \times n m×n 实矩阵, A ∈ R m × n A \in R^{m \times n} A∈Rm×n,则 存在A的奇异值分解: A = U Σ V T A=U \Sigma V^T A=UΣVT,其中 U U U 为 m m m 阶正交矩阵, V V V 为 n n n 阶正交矩阵, Σ \Sigma Σ 为 m × n m \times n m×n 矩阵,其对角线元素非负,且按降序排列。
证明可以用书上的构造法,也可以用数学归纳法等等。
3. 紧奇异值分解
矩阵 A A A: m × n m \times n m×n 实矩阵, r a n k ( A ) = r , r ≤ min ( m , n ) rank(A)=r, r \le \min(m,n) rank(A)=r,r≤min(m,n)
A A A 的紧奇异值分解: A = U r Σ r V r T A = U_r \Sigma_r V_r^T A=UrΣrVrT
- U r U_r Ur ( m × r m \times r