假如有5个观测变量,分别是X1到X5。主成分分析中的主成分变量(简写为PC)和探索式因子分析EFA(或SEM中的CFA)中的因子变量(factor,简写为F)都是将原来的5个观测变量X整合成了少于原有的5个的新变量,可以说都是数据中多变量的整理、简化。
因此二者有相似之处,但却走向了完全不同的方向,可以说是一个向左一个向右。
从下面PCA与EFA的概念图可以看出,明显区别是:PCA中的箭头是从观测值的X1到X5指向了PC1和PC2。而EFA(或CFA)中,箭头是从因子F1、F2指向了X1到X5!
所以:
在PCA中,每个主成分(或叫主成分变量更好理解)PC是由观测变量X整合出来的,即PC是观测变量X的线性组合:
而在EFA(或CFA)中,与之相反,观测变量X是因子变量F的线性组合:
此处写的有多个因子,当然更可能的是一个观测变量X只有一个因子变量F来解释它!
因此,这就是二者的逻辑,也就是为什么在含有隐变量的结构方程模型(SEM)中,箭头要从隐变量指向观测变量,因为其中的隐变量就是EFA(SEM中主要是CFA)中的因子factor变量(即这里的F变量)。