【Sam Gor开堂】主成分分析——建模降维大招

呃，冇错！呢招确实喺建模时候嘅大招，研究熟悉分分钟可以相当于K.O一个Boss~

喺咪咁劲啊？？？

感兴趣咪睇落去咯！

首先先讲下定义，乜喺“主成分分析”？

以下定义来自国内某度嘅定义：

主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量转换为一组线性不相关的变量，转换后的这组变量叫主成分。

好似比较抽象哈哈，以下喺某智库嘅定义：

旨在利用降维的思想，把多指标转化为少数几个综合指标。

在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。

对PCA有基本了解未？我地继续睇落去。

点解会有PCA咧？主要喺因为

“在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具”

计算过程我睇过，相当抽象，我就唔post上黎啦。

所以，以下落黎我会举相关例子，应该会比较容易理解咯。

因为，我学紧R语言，所以下面的例子将会举R语言嘅例子。

函数总结

#R中作为主成分分析最主要的函数是princomp()函数

#princomp()主成分分析   可以从相关阵或者从协方差阵做主成分分析

#summary()提取主成分信息

#loadings()显示主成分分析或因子分析中载荷的内容

#predict()预测主成分的值

#screeplot()画出主成分的碎石图

#biplot()画出数据关于主成分的散点图和原坐标在主成分下的方向

 

案例分享

#现有30名中学生身高、体重、胸围、坐高数据，对身体的四项指标数据做主成分分析。

#1.载入原始数据

test<-data.frame(

 X1=c(148, 139, 160, 149, 159, 142, 153, 150, 151, 139,

          140, 161, 158, 140, 137, 152, 149, 145, 160, 156,

          151, 147, 157, 147, 157, 151, 144, 141, 139, 148),

 X2=c(41, 34, 49, 36, 45, 31, 43, 43, 42, 31,

          29, 47, 49, 33, 31, 35, 47, 35, 47, 44,

          42, 38, 39, 30, 48, 36, 36, 30, 32, 38),

 X3=c(72, 71, 77, 67, 80, 66, 76, 77, 77, 68,

         64, 78, 78, 67, 66, 73, 82, 70, 74, 78,

         73, 73, 68, 65, 80, 74, 68, 67, 68, 70),

 X4=c(78, 76, 86, 79, 86, 76, 83, 79, 80, 74,

          74, 84, 83, 77, 73, 79, 79, 77, 87, 85,

          82, 78, 80, 75, 88, 80, 76, 76,73, 78)

  )

 

#2.作主成分分析并显示分析结果

test.pr<-princomp(test,cor=TRUE)  #cor是逻辑变量 当cor=TRUE表示用样本的相关矩阵R做主成分分析

当cor=FALSE表示用样本的协方差阵S做主成分分析

summary(test.pr,loadings=TRUE)  #loading是逻辑变量 当loading=TRUE时表示显示loading 的内容

#loadings的输出结果为载荷 是主成分对应于原始变量的系数即Q矩阵

分析结果含义

#----Standard deviation 标准差   其平方为方差=特征值

#----Proportion of Variance  方差贡献率

#----Cumulative Proportion  方差累计贡献率

 

#由结果显示 前两个主成分的累计贡献率已经达到96% 可以舍去另外两个主成分 达到降维的目的

 

#4.画主成分的碎石图并预测

screeplot(test.pr,type="lines")

<-predict(test.pr)

 

由碎石图可以看出第二个主成分之后图线变化趋于平稳因此可以选择前两个主成分做分析！

睇完唔过瘾？下面继续举一个SPSS嘅例子。

因为呢个例子篇幅较长，所以请自行点击【阅读全文】吧~