用sklearn进行PCA（主成分分析）

PCA主要是用来数据降维，将高纬度的特征映射到低维度的特征，加快机器学习的速度。

 

原理：

在这个图片中，我们用两个特征来描述样本，分别是attack，defense。但如右图所示，作两条线，可以看出在右边这条线上有较大的方差，而左边这条线的方差比较小。方差越大，所包含的信息就越多。那么如何把这两个特征进行降维呢，降维要尽可能保持原始数据的信息，故要取使方差最大的一个维度（本例中从二维降到一维）。假设右边这条线的方差最大，我们就可以把这条线所在的直线当作降维后的一个维度。也就是二维降到一维后，这个一维空间的x轴所在的位置。那么这个降维后的x轴代表着什么呢？在本例中，我们可以看到这个新的特征由defense和attack这两个特征向量相加，新特征的含义我个人理解为防御力和攻击力在差不多的情况下的大小。不同的人可能理解不一样，现在就成功的将这个二个特征降到了一个特征。在实际的情况中可能有成千上万维数据，具体降到多少个特征要根据实际情况而定。一般来说，前几个特征的累计贡献率就可能达到百分之九十几了。

 

实现：