依然贴出概述图,接下来对多个特征部分的预处理详细解说。
一,特征降维——PCA(主成分分析)
我们在数据处理的过程中,丰富的特征提供信息的同时也提供了干扰,但是盲目减少指标又会丢失信息。因此,需要选择最有效的特征并且尽可能的减少信息丢失,这就是PCA的目标。
1,先讲数据降维。为什么数据能够降维?看下面图1,图1显示的是在空间中的数据,这些数据可以分到x,y,z三个特征轴上,但是我们可以看到这些点都在一个平面上,如果反过来想,坐标系完全可以建在x,y轴上,也就是说,与z轴的特征并没有很大相关性。
图1
又因为,三点总能成面,一般来讲n维空间中的n个点一定能在一个n-1维子空间中分析!
综上所述,我们认为,数据降维并没有丢弃数据,只是数据在那个维度并没有分量。现在,假设这些数据在z轴有一个很小的抖动,那么我们仍然用上述的二维表示这些数据,理由是我们可以认为这两个轴的信息是数据的主成分,而这些信息对于我们的分析已经足够了,z轴上的抖动很有可能是噪。也就是说本来这组数据是有相关性的,噪声的引入,导致了数据不完全相关&#