主成分分析和因子分析的关系是包含与扩展。
当因子分析提取公因子的方法是主成分(矩阵线性组合)时,因子分析结论的前半部分内容就是主成分分析的内容,而因子旋转是因子分析的专属(扩展),主成分分析是因子分析(提取公因子方法为主成分)的中间步骤。
这就是为什么很多软件没有专门为主成分分析独立设计模块的原因。从应用范围和功能上讲,因子分析法完全能够替代主成分分析,并且解决了主成分分析不利于含义解释的问题,功能更为强大。
大致说来,当需要寻找潜在的因子,并对这些因子进行解释的时候,更加倾向于使用因子分析,并且借助旋转技术帮助更好解释。而如果想把现有的变量变成少数几个新的变量(新的变量几乎带有原来所有变量的信息)来进入后续的分析,则可以使用主成分分析。当然,这种情况也可以使用因子得分做到。所以这种区分不是绝对的。
应用:
当然,因子分析也往往是预处理技术,例如,在市场研究中我们要进行市场细分研究,往往采用一组量表测量消费者,首先,通过因子分析得到消减变量后的正交的因子(概念),然后利用因子进行聚类分析,而不再用原来的测量变量了!我想这是市场研究中因子分析的主要应用!