什么是 PCA?
PCA(Principal Component Analysis, 主成分分析)是一种常用的数据降维技术。它通过找到一组新的互不相关的正交轴(主成分),将高维数据映射到低维空间。这些新轴是按照数据的方差大小排列的,首个主成分捕获了数据中最大的信息量,其后的每个主成分依次捕获了剩余数据中最大的信息量。
PCA 的主要目标有以下几个:
- 降维:在保持数据主要信息的情况下,减少数据的维度,减少数据的复杂性和冗余。
- 特征提取:将原始特征映射到新的特征空间,使新特征能够更好地描述数据。
- 噪声消除:降低数据维度的同时,可以消除高维数据中的噪声。
PCA 的贡献率是什么?
PCA 的每个主成分(Principal Component)都代表了原始数据中某一部分的方差,贡献率是指某个主成分所解释的方差占数据总方差的比例。公式如下:
贡献率=主成分的方差比上数据总方差
贡献率越高,表示该主成分包含的数据信息越多。因此,我们可以使用前几个主成分来代替原始的所有特征,以减少数据维度。
PCA 的贡献率有以下几个特点:
-
累积贡献率:前
k
个主成分的贡献率之和,被称为累积贡献率。它衡量的是前k
个主成分能够解释的数据方差比例。通常,我们希望累积贡献率能够达到 90% 或更高,以确保在降维的同时保留大部分信息。