浅析主成分分析

介绍：

主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。主成分分析，是考察多个变量间相关性一种多元统计方法，研究如何通过少数几个主成分来揭示多个变量间的内部结构，即从原始变量中导出少数几个主成分，使它们尽可能多地保留原始变量的信息，且彼此间互不相关.通常数学上的处理就是将原来P个指标作线性组合，作为新的综合指标。

原理请见：https://wenku.baidu.com/view/c99e8302b80d6c85ec3a87c24028915f804d8492.html。

补充为什么用方差度量信息量：

猫1	猫2	猫3
红眼睛	红眼睛	红眼睛

假如三只猫的眼睛都是红色，那么我们无法通过眼睛来辨别这个猫是猫1，猫2还是猫3。即我们获取的信息量很少。

但是如果

猫1	猫2	猫3
红眼睛	蓝眼睛	绿眼睛

那么我们就可以从眼睛分辨到底是哪只猫了，这时所获取的信息量就多了。所以我们可以用方差来度量信息量的大小。

我用spss将5个变量用主成分分析合成1个变量。

对比实验：（rapidminer）数据量少

使用主成分分析和不使用主成分分析

结果：使用了主成分分析

没使用主成分分析：

如果数据量再大一些，这个差别将更加明显。