因子分析

1 概述

因子分析(factor analysis)是一种降维、简化数据的技术。

它通过研究众多变量之间的内部依赖关系，探求观测数据中的基本结构，并用少数几个假想变量（抽象变量）来表示其基本的数据结构。

这几个假想变量（抽象变量）能够反映原来众多变量的主要信息。

• 原始的变量是可观测的显在变量，
• 假想变量（抽象变量）是不可观测的潜在变量，称为因子，能够反映原来众多变量的主要信息。

---

例如，在企业形象或品牌形象的研究中，消费者可以通过一个有24个指标构成的评价体系，评价百货商场的24个方面的优劣。

但消费者主要关心的是三个方面，即

• 商店的环境
• 商店的服务
• 商品的价格

因子分析方法可以通过24个变量，找出反映商店环境、商店服务水平和商品价格的三个潜在的因子，对商店进行综合评价。而这三个公共因子可以表示为：

$$x_i={\mu }_i+{\alpha }_{i1}{F}_1+{\alpha }_{i2}{F}_2+{\alpha }_{i3}{F}_3+{\epsilon }_{i}i=1,2,\cdots ,24$$

称 $F_1\text{、}{F}_2\text{、}{F}_3$ 是不可观测的潜在因子。24个变量共享这三个因子，但是每个变量又有自己的个性，不被包含的部分 ${\epsilon }_i$ ，称为特殊因子。

注意
因子分析与回归分析不同：因子分析中的因子是一个比较抽象的概念，而回归因子有非常明确的实际意义；
主成分分析与因子分析也有不同：主成分分析仅仅是变量变换，而因子分析需要构造因子模型。 主成分分析：原始变量的线性组合表示新的综合变量，即主成分； 因子分析：潜在的假想变量和随机影响变量的线性组合表示原始变量。

主成分分析的数学模型本质上是一种线性变换，是将原始坐标变换到变异程度大的方向去，相当于从空间上转换观看数据的角度，突出数据变异的方向，归纳重要信息。

而因子分析从本质上看是从显在变量去提炼潜在因子的过程，因此，因子的个数 m，取多大是要通过一定规则来确定，并且因子的形式也不是唯一确定的，一般来说，作为自变量的因子 $F_j$ 是不可直接观测的。

2 模型步骤

1. 根据研究问题，确认待分析的原始变量是否适合作因子分析

用定性分析和定量分析的方法选择变量，因子分析的前提条件是观测变量间有较强的相关性，因为如果变量之间无相关性或相关性较小的话，它们不会有共享因子，所以原始变量间应该有较强的相关性。

2. 对所选原始变量进行标准化处理，并计算其相关系数矩阵

相关系数矩阵描述了原始变量之间的相关关系。可以帮助判断原始变量之间是否存在相关关系，这对因子分析是非常重要的，因为如果所选变量之间无关系，做因子分析是不恰当的。并且相关系数矩阵是估计因子结构的基础。

实际中，因子分析前，可以用SPSS进行KMO检验和Bartlett球形检验。

百度词条

• KMO检验：用于比较变量间简单相关系数和偏相关系数的指标。主要应用于多元统计的因子分析。KMO统计量是取值在0和1之间。当所有变量间的简单相关系数平方和远远大于偏相关系数平方和时，KMO值越接近于1，意味着变量间的相关性越强，原有变量越适合作因子分析；当所有变量间的简单相关系数平方和接近0时，KMO值越接近于0,意味着变量间的相关性越弱，原有变量越不适合作因子分析。

• Bartlett球形检验：用于检验相关阵中各变量间的相关性，是否为单位阵，即检验各个变量是否各自独立。在因子分析中，若拒绝原假设，则说明可以做因子分析，若不拒绝原假设，则说明这些变量可能独立提供一些信息，不适合做因子分析。

3. 构造公共因子（求解初始公共因子及因子载荷矩阵）

这一步要确定因子求解的方法和因子的个数。需要根据研究者的设计方案或有关的经验或知识事先确定。因子个数的确定可以根据因子方差的大小，只取方差大于1(或特征值大于1)的那些因子，因为方差小于1的因子其贡献可能很小。或者按照因子的累计方差贡献率来确定，一般认为要达到60％才能符合要求。

4. 因子旋转（利用旋转方法使因子变量具有可解释性）

通过坐标变换使每个原始变量在尽可能少的因子之间有密切的关系，这样因子的实际意义更容易解释,也更容易为每个潜在因子赋予有实际意义的名字。

5. 计算因子得分

求出各样本的因子得分，有了因子得分值，则可以在许多分析中使用这些因子，例如以因子的得分做聚类分析的变量，做回归分析中的回归因子。

6. 根据因子得分值进行进一步分析

3 因子分析模型

3.1 因子分析的数学模型

常用的因子分析类型是 R 型因子分析和 Q 型因子分析。在实际中，我们的主要目的是化多指标为一个综合指标，因此，R 型因子分析是关注的重点。

3.1.1 R 型因子分析模型

R 型因子分析中的公共因子是不可直接观测但又客观存在的共同影响因素，每一个变量都可以表示成公共因子的线性函数与特殊因子之和，即

设 $X_i\left(i=1,2,\cdots ,p\right)$ $p$ 个变量，如果表示为

$$X_i=a_{i1}{F}_1+\cdots +a_{im}{F}_m+{\epsilon }_i\left(m\le p\right)$$
或者写为

$$\left[\begin{array}{c}{X}_1\\ X_2\\ ⋮\\ X_p\end{array}\right]=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1m}\\ a_{21}& a_{22}& \cdots & a_{2m}\\ ⋮& ⋮& & ⋮\\ a_{p1}& a_{p2}& \cdots & a_{pm}\end{array}\right]\left[\begin{array}{c}{F}_1\\ F_2\\ ⋮\\ F_m\end{array}\right]+\left[\begin{array}{c}{\epsilon }_1\\ {\epsilon }_2\\ ⋮\\ {\epsilon }_p\end{array}\right]$$

或者写为

$$\mathbf{X}=\mathbf{A}\mathbf{F}+\mathbf{\epsilon }$$

这里
$$A=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1m}\\ a_{21}& a_{22}& \cdots & a_{2m}\\ ⋮& ⋮& & ⋮\\ a_{p1}& a_{p2}& \cdots & a_{pm}\end{array}\right]=\left(A_1,A_2,\cdots ,A_m\right)$$

其中 $F_1,F_2,\cdots ,F_m$ 称为公共因子，是不可观测的变量，它们的系数称为因子载荷，即模型中的 $a_{ij}$ 称为因子“载荷”，是第 $i$ 变量在第 $j$ 个因子上的负荷。

如果把变量 $X_i$ 看成 m 维空间中的点，则 $a_{ij}$ 表示它在坐标轴 $F_j$ 上的投影，因此矩阵 A 称为因子载荷矩阵。

${\epsilon }_i$ 是特殊因子，是不能被前 m 个公共因子包含的部分。并且满足：

$$\text{cov}\left(\mathbf{F},\mathbf{\epsilon }\right)=0$$
即公共因子与特殊因子是不相关的。
$$D_F=D\left(F\right)=\left[\begin{array}{cccc}1& & & \\ & 1& & \\ & & \ddots & \\ & & & 1\end{array}\right]=I_m$$

即 各个公共因子 $F_1,F_2,\cdots ,F_m$ 互不相关，且方差为1。

$$D\left(\epsilon \right)=\left[\begin{array}{cccc}{\sigma }_1^2& & & \\ & {\sigma }_2^2& & \\ & & \ddots & \\ & & & {\sigma }_p^2\end{array}\right]$$
即各个特殊因子互不相关，方差不要求相等，${\epsilon }_i\sim N\left(0,{\sigma }_i^2\right)$

用矩阵的表达方式

$$\mathbf{X}=\mathbf{A}\mathbf{F}+\mathbf{\epsilon }\text{，}E\left(\mathbf{F}\right)=0\text{，}E\left(\mathbf{\epsilon }\right)=0\text{，}Var\left(\mathbf{F}\right)=\mathbf{I}$$

---

$$\text{cov}\left(\mathbf{F},\mathbf{\epsilon }\right)=E\left(\mathbf{F}{\epsilon }^{\prime }\right)=\left(\begin{array}{cccc}E\left(F_1{\epsilon }_1\right)& E\left(F_1{\epsilon }_2\right)& \cdots & E\left(F_1{\epsilon }_p\right)\\ E\left(F_2{\epsilon }_1\right)& E\left(F_2{\epsilon }_2\right)& \cdots & E\left(F_2{\epsilon }_p\right)\\ ⋮& ⋮& & ⋮\\ E\left(F_p{\epsilon }_1\right)& E\left(F_p{\epsilon }_2\right)& \cdots & E\left(F_p{\epsilon }_p\right)\end{array}\right)=0$$

---

$$Var\left(\mathbf{\epsilon }\right)=diag\left({\sigma }_1^2,{\sigma }_2^2,\cdots ,{\sigma }_p^2\right)$$

3.1.2 Q 型因子分析模型

类似的，Q 型因子分析的数学模型可表示为
$$X_i=a_{i1}{F}_1+\cdots +a_{im}{F}_m+{\epsilon }_i\left(i=1,2,\cdots ,n\right)$$
Q 型因子分析模型和 R 型因子分析模型的区别在于，

• Q 型因子分析是指对样品进行分析，模型中 $X_1,X_2,\cdots X_n$ 表示的是 n 个样品
• R 型因子分析是指对变量进行分析，模型中 $X_1,X_2,\cdots X_p$ 表示的是 p 个变量

3.2 因子分析模型的性质

1、原始变量X的协方差矩阵的分解

$$|\begin{array}{l}\because \mathbf{X}=\mathbf{A}\mathbf{F}+\epsilon \\ \\ \therefore Var\left(\mathbf{X}\right)=\mathbf{A}Var\left(\mathbf{F}\right){\mathbf{A}}^{\prime }+Var\left(\mathbf{\epsilon }\right)\\ \\ Var\left(\mathbf{F}\right)=\mathbf{I}\\ \\ Var\left(\mathbf{\epsilon }\right)=\mathbf{D}=diag\left({\sigma }_1^2,{\sigma }_2^2,\cdots ,{\sigma }_p^2\right)\\ \\ {\Sigma }_{\mathbf{x}}=\mathbf{A}{\mathbf{A}}^{\prime }+\mathbf{D}\end{array}$$

$A$ 是因子模型的系数

D的主对角线上的元素值越小，则公共因子共享的成分越多。

---

2、模型不受计量单位的影响

---

3、因子载荷不是惟一的

设$T$为一个$p\times p$的正交矩阵，令$A=AT，F=T^{\prime }F$也是一个满足因子模型条件的因子载荷。

3.3 因子载荷矩阵中的几个统计特征

3.3.1 因子载荷$a_{ij}$的统计意义

在因子变量不相关的条件下，因子载荷 $a_{ij}$ 是第 $i$ 个原始变量与第 $j$ 个公共因子的相关系数

---

模型为

$$X_i=a_{i1}{F}_1+\cdots +a_{im}{F}_m+{\epsilon }_i$$
在上式的左右两边乘以 $F_j$ ，再求数学期望
$$E\left(X_i{F}_j\right)=a_{i1}E\left(F_1{F}_j\right)+\cdots +{\alpha }_{ij}E\left(F_j{F}_j\right)+\cdots +a_{im}E\left(F_m{F}_j\right)+E\left({\epsilon }_i{F}_j\right)$$
根据公共因子的模型性质，有 $r_{X_i{F}_j}=a_{ij}$（载荷矩阵中第 $i$ 行，第 $j$ 列的元素）反映了第 $i$ 个原始变量与第 $j$ 个公共因子的相关重要性。

$a_{ij}$ 绝对值越大，$X_i$与$F_j$相关的密切程度越高。

3.3.2 变量共同度的统计意义

定义：变量 $X_i$ 的共同度是因子载荷矩阵的第 $i$ 行的元素的平方和。记为

$$h_i^2=\sum _{j=1}^m{a}_{ij}^2$$

表示，$X_i$ 的共同度，它描述了全部公共因子对变量 $X_i$ 的总方差所作的贡献，反映了公共因子对变量 $X_i$ 的影响程度。

统计意义：

$$X_i=a_{i1}{F}_1+\cdots +a_{im}{F}_m+{\epsilon }_i$$

两边求方差
$$Var\left(X_i\right)=a_{i1}^{2}Var\left(F_1\right)+\cdots +a_{im}^{2}Var\left(F_m\right)+Var\left({\epsilon }_i\right)$$
$$1=\sum _{j=1}^m{a}_{ij}^2+{\sigma }_i^2$$

所有的公共因子和特殊因子对变量 $X_i$ 的贡献为1。如果 $\sum _{j=1}^m{a}_{ij}^2$ 非常靠近1， ${\sigma }_i^2$ 非常小，则因子分析的效果好，从原变量空间到公共因子空间的转化性质好。

3.3.3 公共因子$F_j$方差贡献的统计意义

因子载荷矩阵中各列元素的平方和$$S_j=\sum _{i=1}^p{a}_{ij}^2$$

表示所有的公因子 $F_j\left(j=1,\cdots ,m\right)$ 对各变量 $X_i$ 所提供的方差贡献总和，它衡量了每一个公共因子 $F_j$ 的相对重要性，决定着公因子的选择数量。

4 因子载荷矩阵的估计方法

求解因子载荷矩阵方法有：主成分分析法、主因子法、极大似然估计法。常用方法为主成分分析法。

4.1 主成分分析法

设存在一组随机向量 $\mathbf{X}={\left(x_1,x_2,\cdots ,x_p\right)}^{\prime }$，将变量数据 z 值标准化后，得到其均值为 $\mathbf{\mu }$ 以及方差-协方差矩阵 $\mathbf{\Sigma }$（也即其相关系数矩阵）。

计算方差-协方差矩阵 $\mathbf{\Sigma }$ 的变化方向（特征向量）和变动程度（特征值），即有：

$${\lambda }_1\ge {\lambda }_2\ge \cdots \ge {\lambda }_p\ge 0$$ 为 $\mathbf{\Sigma }$ 的特征根， $${\mathbf{u}}_1,{\mathbf{u}}_2,\cdots ,{\mathbf{u}}_{\mathbf{p}}$$ 为对应的标准化特征向量，则
$${\mathbf{\Sigma }}_{\mathbf{x}}=R\left(\mathbf{X}\right)=\mathbf{U}\mathbf{\lambda }{\mathbf{U}}^{\prime }$$

其中 $\mathbf{U}$ 是特征向量组合而成的矩阵， $\mathbf{\lambda }$ 是特征值对角矩阵。

根据原始变量 $\mathbf{X}$ 的协方差矩阵的分解

$$|\begin{array}{l}\because \mathbf{X}=\mathbf{A}\mathbf{F}+\epsilon \\ \\ \therefore Var\left(\mathbf{X}\right)=\mathbf{A}Var\left(\mathbf{F}\right){\mathbf{A}}^{\prime }+Var\left(\mathbf{\epsilon }\right)\\ \\ Var\left(\mathbf{F}\right)=\mathbf{I}\\ \\ Var\left(\mathbf{\epsilon }\right)=\mathbf{D}=diag\left({\sigma }_1^2,{\sigma }_2^2,\cdots ,{\sigma }_p^2\right)\\ \\ {\Sigma }_{\mathbf{x}}=\mathbf{A}{\mathbf{A}}^{\prime }+\mathbf{D}=R\left(\mathbf{X}\right)\end{array}$$

$A$ 是因子模型的系数

D的主对角线上的元素值越小，则公共因子共享的成分越多。

矩阵变换：
$${\mathbf{\Sigma }}_{\mathbf{x}}=R\left(\mathbf{X}\right)=\mathbf{U}\left[\begin{array}{cccc}{\lambda }_1& & & \\ & {\lambda }_2& & \\ & & \ddots & \\ & & & {\lambda }_p\end{array}\right]{\mathbf{U}}^{\prime }=\mathbf{A}{\mathbf{A}}^{\prime }+\mathbf{D}$$

$$\left[\begin{array}{cccc}{\mathbf{u}}_1& {\mathbf{u}}_2& \cdots & {\mathbf{u}}_{\mathbf{p}}\end{array}\right]\left(\begin{array}{ccc}{\lambda }_1& & 0\\ & \ddots & \\ 0& & {\lambda }_p\end{array}\right)\left[\begin{array}{c}{{\mathbf{u}}^{\prime }}_1\\ {{\mathbf{u}}^{\prime }}_2\\ ⋮\\ {{\mathbf{u}}^{\prime }}_{\mathbf{p}}\end{array}\right]$$
$$={\lambda }_1{\mathbf{u}}_1{{\mathbf{u}}^{\prime }}_1+{\lambda }_2{\mathbf{u}}_2{{\mathbf{u}}^{\prime }}_2+\cdots +{\lambda }_m{\mathbf{u}}_m{{\mathbf{u}}^{\prime }}_m+{\lambda }_{m+1}{\mathbf{u}}_{m+1}{{\mathbf{u}}^{\prime }}_{m+1}+\cdots +{\lambda }_p{\mathbf{u}}_{\mathbf{p}}{{\mathbf{u}}^{\prime }}_{\mathbf{p}}$$
$$=\left[\begin{array}{cccc}\sqrt{{\lambda }_1}{\mathbf{u}}_1& \sqrt{{\lambda }_2}{\mathbf{u}}_2& \cdots & \sqrt{{\lambda }_p}{\mathbf{u}}_p\end{array}\right]\left[\begin{array}{c}\sqrt{{\lambda }_1}{{\mathbf{u}}^{\prime }}_1\\ \sqrt{{\lambda }_2}{{\mathbf{u}}^{\prime }}_2\\ ⋮\\ \sqrt{{\lambda }_p}{{\mathbf{u}}^{\prime }}_{\mathbf{p}}\end{array}\right]$$

其中，
$$\left[\begin{array}{cccc}\sqrt{{\lambda }_1}{\mathbf{u}}_1& \sqrt{{\lambda }_2}{\mathbf{u}}_2& \cdots & \sqrt{{\lambda }_p}{\mathbf{u}}_p\end{array}\right]$$

为因子载荷矩阵 $A$。

上式给出的 $\mathbf{\Sigma }$ 表达式是精确的，然而，它实际上是毫无价值的，因为我们的目的是寻求用少数几个公共因子解释，故略去后面的 $p-m$ 项的贡献。

即上式有一个假定：模型中的特殊因子是不重要的，因而从 $\mathbf{\Sigma }$ 的分解中忽略了特殊因子的方差 $D$。

确定因子个数（特征根大于所对应的特征向量；碎石原则：把特征根从大到小排列，把特征根减小速度变缓的特征根都删掉）。

4.2 主因子法

主因子方法是对主成分方法的修正，假定我们首先对变量进行标准化变换。则
$$|\begin{array}{l}R\left(\mathbf{X}\right)=\mathbf{A}{\mathbf{A}}^{\prime }+\mathbf{D}\\ \\ R^{\ast }\left(\mathbf{X}\right)=\mathbf{A}{\mathbf{A}}^{\prime }=R\left(\mathbf{X}\right)-\mathbf{D}\end{array}$$
称 $R^{\ast }\left(\mathbf{X}\right)$ 为约相关矩阵， $R^{\ast }\left(\mathbf{X}\right)$ 对角线上的元素是 $h_i^2$ ，而不是1。

$$R^{\ast }\left(\mathbf{X}\right)=\mathbf{R}-\hat{\mathbf{D}}=\left[\begin{array}{cccc}{\hat{h}}_1^2& r_{12}& \cdots & r_{1p}\\ r_{21}& {\hat{h}}_2^2& \cdots & r_{2p}\\ ⋮& ⋮& & ⋮\\ r_{p1}& r_{p2}& \cdots & {\hat{h}}_p^2\end{array}\right]$$

直接求 $R^{\ast }\left(\mathbf{X}\right)$ 的前 p 个特征根和对应的正交特征向量。得如下的矩阵：

$$\mathbf{A}=\left[\begin{array}{cccc}\sqrt{{\lambda }_1^{\ast }}{\mathbf{u}}_1^{\ast }& \sqrt{{\lambda }_2^{\ast }}{\mathbf{u}}_2^{\ast }& \cdots & \sqrt{{\lambda }_p^{\ast }}{\mathbf{u}}_p^{\ast }\end{array}\right]$$
$$R^{\ast }\left(\mathbf{X}\right)\text{特征根：}{\lambda }_1^{\ast }\ge \cdots \ge {\lambda }_p^{\ast }\ge 0$$

$$\text{正交特征向量：}{\mathbf{u}}_1^{\ast },{\mathbf{u}}_2^{\ast },\cdots ,{\mathbf{u}}_p^{\ast }$$
当特殊因子${\mathbf{\epsilon }}_{\mathbf{i}}$ 的方差已知时
$$R^{\ast }\left(\mathbf{X}\right)=\mathbf{R}-\left[\begin{array}{cccc}{\sigma }_1^2& & & \\ & {\sigma }_2^2& & \\ & & \ddots & \\ & & & {\sigma }_p^2\end{array}\right]$$
$$=\left[\begin{array}{cccc}\sqrt{{\lambda }_1^{\ast }}{\mathbf{u}}_1^{\ast }& \sqrt{{\lambda }_2^{\ast }}{\mathbf{u}}_2^{\ast }& \cdots & \sqrt{{\lambda }_p^{\ast }}{\mathbf{u}}_p^{\ast }\end{array}\right]\left[\begin{array}{c}\sqrt{{\lambda }_1^{\ast }}{{\mathbf{u}}^{\prime }}_1^{\ast }\\ \sqrt{{\lambda }_2^{\ast }}{{\mathbf{u}}^{\prime }}_2^{\ast }\\ ⋮\\ \sqrt{{\lambda }_p^{\ast }}{{\mathbf{u}}^{\prime }}_p^{\ast }\end{array}\right]$$

$$\mathbf{A}=\left[\begin{array}{cccc}\sqrt{{\lambda }_1^{\ast }}{\mathbf{u}}_1^{\ast }& \sqrt{{\lambda }_2^{\ast }}{\mathbf{u}}_2^{\ast }& \cdots & \sqrt{{\lambda }_m^{\ast }}{\mathbf{u}}_m^{\ast }\end{array}\right]$$
$$\mathbf{D}=\left(\begin{array}{ccc}1-{\hat{h}}_1^2& & 0\\ & \ddots & \\ 0& & 1-{\hat{h}}_p^2\end{array}\right)$$

在实际的应用中，个性方差矩阵一般都是未知的，可以通过一组样本来估计。估计的方法有如下几种：

首先，求 $h_i^2$ 的初始估计值，构造出 $R^{\ast }\left(\mathbf{X}\right)$

1）取 $h_i^2$=1 ，在这个情况下主因子解与主成分解等价；

2）取 $h_i^2=R_i^2$ ， $R_i^2$ 为 $x_i$ 与其他所有的原始变量 $x_j$ 的复相关系数的平方，即 $x_i$ 对其余的 $p-1$ 个 $x_j$ 的回归方程的判定系数，这是因为 $x_i$ 与公共因子的关系是通过其余的 $p-1$ 个 $x_j$ 的线性组合联系起来的；

3）取 $${\hat{h}}_i^2=\max \text{|}{r}_{ij}|\left(j\ne i\right)$$ 这意味着取 $x_i$ 与其余的 $xj$ 的简单相关系数的绝对值最大者；

4）取 $$h_i^2=\frac{1}{p-1}\sum _{j=1,i\ne j}^p{r}_{ij}$$
其中要求该值为正数。

5）取 $h_i^2=1/r^{ii}$ ， 其中 $r^{ii}$ 是 ${\mathbf{R}}^{-1}$ 的对角元素。

4.3 极大似然估计法

略

5 因子旋转（正交变换）

5.1 为什么要旋转因子

建立了因子分析数学目的不仅仅要找出公共因子以及对变量进行分组，更重要的要知道每个公共因子的意义，以便进行进一步的分析，如果每个公共因子的含义不清，则不便于进行实际背景的解释。

由于因子载荷阵是不惟一的，所以应该对因子载荷阵进行旋转。目的是使因子载荷阵的结构简化，使载荷矩阵每列或行的元素平方值向0和1两极分化。

有三种主要的正交旋转法：四次方最大法、方差最大法和等量最大法

设 $\mathbf{\Gamma }$ 正交矩阵，做正交变换 $\mathbf{B}=\mathbf{A}\mathbf{\Gamma }$

• 变换后各变量的共同度不会发生变化。
• 变换后各因子的贡献会发生变化。

5.2 方差最大法

方差最大法从简化因子载荷矩阵的每一列出发，使和每个因子有关的载荷的平方的方差最大。当只有少数几个变量在某个因子上有较高的载荷时，对因子的解释最简单。

方差最大的直观意义是希望通过因子旋转后，使每个因子上的载荷尽量拉开距离，一部分的载荷趋于±1，另一部分趋于0。

例如，构造两个公共因子

$$A=\left[\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\\ ⋮& ⋮\\ a_{p1}& a_{p2}\end{array}\right]$$

---

$$\begin{array}{l}{X}_1=a_{11}{F}_1+a_{12}{F}_2\\ X_2=a_{21}{F}_1+a_{22}{F}_2\\ \begin{array}{cc}& \cdots \end{array}\\ X_p=a_{p1}{F}_1+a_{p2}{F}_2\end{array}$$
设旋转矩阵为：

$$T=\left(\begin{array}{cc}\cos \varphi & -\sin \varphi \\ \sin \varphi & \cos \varphi \end{array}\right)$$

则

$$\mathbf{B}=\mathbf{A}\mathbf{T}=\mathbf{A}\left(\begin{array}{cc}\cos \varphi & -\sin \varphi \\ \sin \varphi & \cos \varphi \end{array}\right)$$

$$=\left(\begin{array}{cc}{a}_{11}\cos \varphi +a_{12}\sin \varphi & -a_{11}\sin \varphi +a_{12}\cos \varphi \\ ⋮& ⋮\\ a_{p1}\cos \varphi +a_{p2}\sin \varphi & -a_{p1}\sin \varphi +a_{p1}\cos \varphi \end{array}\right)$$

$$=\left(\begin{array}{cc}{a}_{11}^{\ast }& a_{12}^{\ast }\\ ⋮& ⋮\\ a_{p1}^{\ast }& a_{p2}^{\ast }\end{array}\right)$$

令
$$d_{ij}=\frac{a_{ij}^{\ast }}{h_i}i=1,2,\cdots ,p;j=1,2$$

$${\bar{d}}_j=\frac{1}{p}\sum _{i=1}^p{d}_{ij}^2$$

简化准则为：
$$V\left(\theta \right)=\sum _{j=1}^m\sum _{i=1}^p\text{(}{d}_{ij}^2-{\bar{d}}_j{\text{)}}^2=\max$$

即：
$$V_1+V_2+V_3\cdots +V_m=\max$$

令
$$\frac{\partial V}{\partial \theta }=0$$

则可以解出 ${\theta }_0$

则旋转矩阵为：

$$T=\left(\begin{array}{cc}\cos {\theta }_0& -\sin {\theta }_0\\ \sin {\theta }_0& \cos {\theta }_0\end{array}\right)$$

6 因子得分

前面主要解决了用公共因子的线性组合来表示一组观测变量的有关问题。如果我们要使用这些因子做其他的研究，比如把得到的因子作为自变量来做回归分析，对样本进行分类或评价，这就需要我们对公共因子进行测度，即给出公共因子的值。