SVD（奇异值分解）

1、特征值分解（EVD）

• 实对称矩阵
  在理角奇异值分解之前，需要先回顾一下特征值分解，如果矩阵A是一个m×m的实对称矩阵（即A=A^T），那么它可以被分解成如下的形式
  

其中Q为标准正交阵，即有QQ^T=I，Σ为对角矩阵，且上面的矩阵的维度均为m×m。λ_i 称为特征值，q_i 是Q（特征矩阵）中的列向量，称为特征向量。

注：I在这里表示单位阵，有时候也用E表示单位阵。式（1-1）的具体求解过程就不多叙述了，可以回忆一下大学时的线性代数。简单地有如下关系：Aqi=λiqi,qTiqj=0(i≠j)。

• 一般矩阵
  上面的特征值分解，对矩阵有着较高的要求，它需要被分解的矩阵A为实对称矩阵，但是现实中，我们所遇到的问题一般不是实对称矩阵。那么当我们碰到一般性的矩阵，即有一个m×n的矩阵A，它是否能被分解成上面的式（1-1）的形式呢？当然是可以的，这就是我们下面要讨论的内容。

2、奇异值分解（SVD）

• 2.1 奇异值分解定义
  

• 2.2 奇异值求解
  

3、奇异值分解应用

• 3.1 纯数学例子
  

U =
[[-0.55572489, -0.72577856, 0.40548161],
[-0.59283199, 0.00401031, -0.80531618],
[-0.58285511, 0.68791671, 0.43249337]]
V =
[[-0.18828164, -0.01844501, 0.73354812, 0.65257661, 0.06782815],
[-0.37055755, -0.76254787, 0.27392013, -0.43299171, -0.17061957],
[-0.74981208, 0.4369731 , -0.12258381, -0.05435401, -0.48119142],
[-0.46504304, -0.27450785, -0.48996859, 0.39500307, 0.58837805],
[-0.22080294, 0.38971845, 0.36301365, -0.47715843, 0.62334131]]

奇异值Σ=Diag(18.54,1.83,5.01)

转载自 https://www.cnblogs.com/endlesscoding/p/10033527.html