3.4 矩阵 $A,A^T,A^TA,AA^T$ 秩相等，左逆和右逆

矩阵 $A,A^T,A^{T}A,A{A}^T$ 秩相等，左逆和右逆

令 $r=rankA$ ，因为零空间秩为 $n-r$ ，零空间是矩阵行空间的正交补空间，矩阵 $A^T$ 列空间就是矩阵 $A$ 行空间，故 $rank{A}^T=n-rank(nullA)=r$ 。

方程 $A^{T}A\mathbf{x}=0$ 和 $A\mathbf{x}=0$ 是同解方程。证明如下：如果向量 $\mathbf{x}$是方程 $A\mathbf{x}=0$ 解，则显然是方程 $A^{T}A\mathbf{x}=0$ 解。如果向量 $\mathbf{x}$是方程 $A^{T}A\mathbf{x}=0$ 解，则 ${\mathbf{x}}^{\mathbf{T}}{A}^{T}A\mathbf{x}={\mathbf{x}}^{\mathbf{T}}0=0$ 得 $(A\mathbf{x}{)}^T(A\mathbf{x})=0$ 得 $\Vert A\mathbf{x}\Vert =0$ 故 $A\mathbf{x}=0$ ，两个方程同解，则 $rankA=rank{A}^{T}A$ 。

同理可证 $rank{A}^T=rank(A^T{)}^T{A}^T=rankA{A}^T$ 。

重要性质 $rankA=rank{A}^T=rank{A}^{T}A=rankA{A}^T$ 。

矩阵相乘，秩会减小，所以 $rank{A}^{T}A\le rankA$ ，但矩阵 $A$ 可以是任意矩阵，不需是列满秩矩阵而 $rank{A}^{T}A=rankA$ ，这说明矩阵 $A$ 的列向量不位于矩阵 $A^T$ 零空间，可以证明 $A^T{\mathbf{a}}_{\mathbf{i}}$ 不可能为零向量。$A^T{\mathbf{a}}_{\mathbf{i}}=\left[\begin{array}{c}{\mathbf{a}}_1^{\mathbf{T}}{\mathbf{a}}_{\mathbf{i}}\\ ⋮\\ {\mathbf{a}}_{\mathbf{i}}^{\mathbf{T}}{\mathbf{a}}_{\mathbf{i}}\\ ⋮\\ {\mathbf{a}}_{\mathbf{n}}^{\mathbf{T}}{\mathbf{a}}_{\mathbf{i}}\end{array}\right]\ne 0$ ，因为 ${\mathbf{a}}_{\mathbf{i}}^{\mathbf{T}}{\mathbf{a}}_{\mathbf{i}}>0$ 。

直接得到如下推论。

重要性质 矩阵 $A$ 是列满秩矩阵时，$rankA=n$ ，$n$ 阶方阵 $rank{A}^{T}A=n$ 是可逆矩阵。

重要性质 矩阵 $A$ 是列满秩矩阵时，因为 $(A^{T}A{)}^{-1}{A}^{T}A=E_n$ ，称矩阵 $(A^{T}A{)}^{-1}{A}^T$ 是矩阵 $A$ 的左逆，记为 $A_L^{-1}$

因为矩阵 $A_L^{-1}$ 左乘矩阵 $A$ 等于单位矩阵，故称左逆。

重要性质 矩阵 $A$ 是列满秩矩阵时，方程 $A\mathbf{x}=\mathbf{b}$ 的解可表示为 $\mathbf{x}=A_L^{-1}\mathbf{b}$ ，即著名的最小二乘解。

重要性质 矩阵 $A$ 是行满秩矩阵时，$rankA=m$ ，$m$ 阶方阵 $rankA{A}^T=m$ 是可逆矩阵。

重要性质 矩阵 $A$ 是行满秩矩阵时，因为 $A{A}^T(A{A}^T{)}^{-1}=E_m$ ，称矩阵 $A^T(A{A}^T{)}^{-1}$ 是矩阵 $A$ 的右逆，记为 $A_R^{-1}$

因为矩阵 $A_R^{-1}$ 右乘矩阵 $A$ 等于单位矩阵，故称右逆。

重要性质 矩阵 $A$ 是行满秩矩阵时，方程 $A\mathbf{x}=\mathbf{b}$ 的解可表示为 $\mathbf{x}=A_R^{-1}\mathbf{b}$ ，即著名的最小范数解。

当矩阵 $A$ 是满秩矩阵时， $A^{-1}$ 是矩阵的逆。

读者会猜测，当矩阵 $A$ 是行列均不满秩矩阵时，应该也存在“逆”，此“逆”称为伪逆，记为 $A^{+}$ ，方程 $A\mathbf{x}=\mathbf{b}$ 的解可表示为 $\mathbf{x}=A^{+}\mathbf{b}$ ，即著名的最小范数最小二乘解。后面章节会详细解释这些概念。