主成分分析（Principal Component Analysis, PCA）

1. 诞生原因
在处理高维数据时，为简化计算量以及存储空间，需要对高维数据进行一定程度上的降维，同时需要尽量使数据不失真。

2. 常用降维方法

• PCA：Principal Component Analysis，主成分分析
• ICA：Independent Component Analysis，独立成分分析

3. 用途
在机器学习中，用途广泛，可用于图像、语言、通信的分析处理（常用语机器学习中提取特征之后的降维操作）

4. 基本原理
找到一组基，这组基张成一个特征空间，将原始数据映射到新的该空间，申城新的数据

5. PCA-具体原理
通过线性变换，将原始数据变换为一组各维度线性无关的表示，以此来提取数据的主要线性分量
【需要用到：方差、协方差】

6. PCA-实现方法

• 特征值分解（局限较多，比如变换的矩阵必须是方阵）
• 奇异值（SVD）分解

7. PCA-算法步骤
设有n条m维数据，要降为k维：

• 将原始数据按列组成m行n列矩阵X；
• 将X的每一行（代表一个属性字段）进行零均值化；
• 求出协方差矩阵C = 1/m * (X*X^T)；
• 求出协方差矩阵的特则值及对应的特征向量；
• 将特征向量按对应的特征值大小从上到小排列成矩阵，取前k行组成矩阵P；
• Y = P * X即为降维到k维后的数据。

8. PCA-算法总结
优点：

• 仅仅需要以方差衡量信息量，不受数据集