一,为什么使用pca算法
1,在实际的数据样本中往往存在多个特征,即在一张数据表格中存在多列,每一列代表一个特征。我们需要在这么多的数据中提取有用的数据信息,但是在整体的数据样本中有部分数据是无用的,或者说是该数据对整体的数据样本影响不大,如下学生成绩图
显而易见,政治成绩所有学生都是一样,所以我们在分析数据时,可以不用考虑整治成绩。但是如下学生成绩图
我们无法一眼看出在数据分析时,哪些特征是可以不加考虑的。pca算法的目的就是在大量的特征中找到主要的特征。
二,pca算法讲解
1,什么是线性相关?
给定向量组A:a1,a2,a3,a4,...aN。假设存在k1,k2,k3,k4,...kN。使得
a1*k1+a2*k2+a3*k3+...+aN*kN=0成立
则向量组A是线性相关的,否则A是线性无关
通俗的讲,线性相关就是指向量组中至少一个向量可以由其他向量线性表示
2,信噪比
在信号处理过程中,认为信号具有较大的方差,噪声具有较小的方差。信噪比就是方差比,信噪比越大,主成分提取就越准确。
3,样例分析
在学生成绩图中,有5个特征,在这些特征之中可能存在部分特征