原理解析——奇异值分解(SVD)

       奇异值分解（SVD）是矩阵分析中的重要内容，既然在新闻分类中应用到了，MC君就要详细地说说其中的原理。

       我们学线性代数时就知道，一个实对称矩阵一定可以对角化。若矩阵是实对称矩阵，则必有：，其中是对角矩阵，对角线上的元素就是的特征值，是正交矩阵（中的每个列向量为的特征向量，且是两两正交的单位向量）。所以只有对称矩阵才可以分解成两个正交矩阵和一个对角阵，但如果我想把一个普通的矩阵也分解成以上的形式，应该怎么办呢? 我们可以想办法将变成一个对称矩阵，显然就是一个对称矩阵，我们不妨先对进行分解。

       因为是的对称矩阵，所以必定可以正交对角化，令的特征向量为，为标准正交基（两两正交的单位向量），是对应的特征值，即，则的模的平方可表示为下式：