1、Principal Component Analysis——PCA,擅长处理坐标系的移动和旋转问题。
2、它是一套全面应用于各类数据分析的分析方法。
3、概述原理:无论收到任何形状的数据,PCA从旧坐标系统仅通过转化和轮换获得新坐标系统,根据数据中心,将新坐标中心移动到数据中心,将新的x轴移至变化的主轴,在整个数据集中寻找最大方差的位置,进一步把轴移至正交处重要性较低的方向,主成分分析找到轴,并告诉这些轴的重要性。
4、步骤:
- 中心:数据的中心
- 主轴:
- 第二个成分:
- 最低输出向量呗规范为1
5、通过PCA可得出一个重要值,轴的分布值。如果分布率较小,该散布值对第一条变量轴来说倾向于一个很大的值,对于第二条变量轴来说则小很多。
6、主成分是最大方差的方向。
7、将信息损失减到最小的方向。丢失的信息等于某个特定的点与它在这条线上的新位置之间的距离。
8、总结:
- PCA是将输入特征转化为其主要成分的系统化方法。
- 使用主成分作为新的特征。
- 当对主成分执行投影或压缩,主成分是数据中使方差最大化的方向(信息丢失降至最低)。
- 对主成分划分等级,数据因特定主成分而产生的方差越大,那么主成分的级别越高。
- 最大方差 / 最多信息——第一主成分。第二大最大方差(与第一主成分没有重叠)——第二主成分。
- 主成分的数量最大值 = 数据输入特征数量。
9、何时使用PCA:
- 访问隐藏的特征(该特征是存在的情况下)。
- 降维:可视化高维数据;去噪;在另一个算法之前使用PCA进行预处理(归纳或分类)。