基于非局部低秩正则化的压缩感知——学习笔记
基础知识补充
凸优化问题
机器学习中范数规则,这个讲的很清楚link
RIP压缩感知测量矩阵之有限等距性质
奇异值分解
奇异值分解与实对称矩阵的特征值分解有很深的联系。
EVD——对于实对称矩阵 A n ∗ n A_{n*n} An∗n,可将其分解为 A = Q Λ Q T A=Q\Lambda Q^{T} A=QΛQT,其中 Λ \Lambda Λ的对角线为 A A A的特征值,其余元素均为0。
SVD——对于任一实矩阵 A m ∗ n A_{m*n} Am∗n,可将其分解为 A m ∗ n = U m ∗ m Σ m ∗ n V n ∗ n T A_{m*n}=U_{m*m}\Sigma_{m*n} V^{T}_{n*n} Am∗n=Um∗mΣm∗nVn∗nT,其中 U , V U,V U,V均为单位正交阵,即: U U T = V V T = I UU^{T}=VV^{T}=I UUT=VVT=I, Σ \Sigma Σ仅在主对角线上有值,其值称为奇异值。
U , V , Σ U,V,\Sigma U,V,Σ求解
A A T = U Σ V T V Σ T U T = U Σ Σ T U T AA^T=U\Sigma V^TV\Sigma^T U^T=U\Sigma \Sigma^TU^T AAT=UΣVTVΣTUT=UΣΣTUT |
---|
A T A = V Σ T U T U Σ V T = V Σ Σ T V T A^TA=V\Sigma^T U^TU\Sigma V^T=V\Sigma \Sigma^TV^T ATA=VΣTUTUΣVT= |