【机器学习】必会降维算法之：奇异值分解（SVD）

1、引言

一转眼，
小屌丝：鱼哥，就要到每年最开心的节日了：六一儿童节。
小鱼：你有啥想法？
小屌丝：想法没有，玩的地方倒是想
小鱼：拉倒吧， 我可不去
小屌丝：确定？
小鱼：看情况。
小屌丝：嘿嘿， 难得过节日，我们也得放松一下
小鱼：正有此意。

2、奇异值分解（SVD）

2.1 定义

奇异值分解（SVD）是线性代数中一种重要的矩阵分解方法，它将任意矩阵分解为三个矩阵的乘积形式，即A = UΣV^T， 其中

• A是待分解的矩阵，
• U和V是酉矩阵（正交矩阵在复数域的推广），
• Σ是半正定的对角矩阵，
• 对角线上的元素称为奇异值。

SVD是特征值分解在任意矩阵上的推广，对于非方阵或非对称矩阵也能进行有效分解。