第十五章:奇异值分解(SVD:singular value decomposition)
定义与性质
将一个 非 零 的 \color{red}{非零的} 非零的的 m × n \color{red}{m\times{n}} m×n的实矩阵A,表示为以下三个矩阵乘积的运算:
A = U Σ V T , 这 里 是 完 全 奇 异 值 分 解 \color{red}{A=U\Sigma{V^T},这里是完全奇异值分解} A=UΣVT,这里是完全奇异值分解
其中,U是m阶正交阵,V是n阶正交阵
满 足 U U T = E , V V T = E , 对 应 着 坐 标 系 的 旋 转 或 反 射 变 换 \color{red}{满足UU^T=E,VV^T=E,对应着坐标系的旋转或反射变换} 满足UUT=E,VVT=E,对应着坐标系的旋转或反射变换
Σ \Sigma Σ是 m × n m\times{n} m×n矩形对角矩阵(只有对角线上的元素非零)
满 足 Σ = d i a g ( σ 1 , σ 2 , ⋯ , σ p ) , σ 1 ≥ σ 2 ≥ ⋯ ≥ σ p ≥ 0 ; p = m i n ( m , n ) , 对 应 着 坐 标 轴 的 缩 放 变 化 , \color{red}{满足\Sigma=diag(\sigma_1,\sigma_2,\cdots,\sigma_p),\sigma_1\geq\sigma_2\geq\cdots\geq\sigma_p\geq0;p=min(m,n),对应着坐标轴的缩放变化,} 满足Σ=diag(σ1,σ2,⋯,σp),σ1≥σ2≥⋯≥σp≥0;p=min(m,n),对应着坐标轴的缩放变化,
任 意 实 矩 阵 A 的 奇 异 值 分 解 均 存 在 \color{red}{任意实矩阵A的奇异值分解均存在} 任意实矩阵A的奇异值分解均存在
紧奇异值分解与截断奇异值分解:
A = U k Σ k V k T \color{red}{A=U_k\Sigma_kV_k^T} A=UkΣk