Dimension reduction：SVD

Singular Value Decomposition (SVD)

降维的目的是为了去除冗余的数据，数据压缩等。大部分的挖掘算法在高维空间上难以达到较好的效果。

 

奇异值用于降维的步骤：

1. 将样本构造成矩阵A

2. 对A进行奇异值分解 SVD(A)=[U, S, V]

3. U是AA^T的特征向量矩阵，V是A^TA的特征向量的矩阵，S是A^TA和AA^T的共同的特征值，从大到小

4. 设置要降的维数K, U, S 和V都取前K列，A=USV^T作为最后的降为结果