数据降维技术中,应用最多的方法就是PCA(Principal Components Analysis)。数据降维,是指在某些限定条件下,降低随机变量个数,得到一组“不相关”主变量的过程。
PCA简介
目标:
寻找k(k<n)维新数据,使它们反映事物的主要特征。
核心:
在信息损失尽可能少的情况下,降低数据维度。
例如,要把三维数据降为二维数据,就需要把三维数据投影到一个平面,然后为了使损失的数据尽可能少,就希望三维数据的各点到这个平面的距离尽可能小。
我们可以把这个投影的线或面理解成主成分,而各点到它们的距离可以理解成损失的信息。
如何保留主要信息?
那就是投影后不同的数据要尽可能分得开(即不相关) 。这是因为维度很高的数据是有很多的相关性的,而我们希望数据尽可能少,那我们就要保证每个维度里的数据在不同的维度之间没有太多的关系,也就可以理解成上述所说的投影后不同的数据要尽可能分得开(即不相关) 。
如何实现?
使投影后数据的方差最大,因为方差越大数据也越分散。
作用?
1.减少模型分析数据量,提升处理效率,降低计算难度。
2.实现数据可视化。
计算过程:
1.原始数据预处理。(标准化 u=0,sigma=1)
from sklearn.preprocessing import StandardScaler
X_norm = Sta