2.1 矩阵运算（第2章矩阵代数）

内容概述

本节讲解了一些矩阵运算的基本法则，其中最重要的是要理解矩阵乘法的意义（复合变换）和矩阵乘法的性质（比如很重要的矩阵乘法结合律），除了矩阵乘法，还讨论了矩阵的和、矩阵的标量乘法、矩阵的乘幂、矩阵的转置等概念和计算方法。

矩阵标记

若$A$是$m\times n$矩阵，则$A$的第$i$行第$j$列的元素用$a_{ij}$来表示。$A$的各列是${\mathbb{R}}^m$中的向量，用黑体${\mathbf{a}}_1,\cdots ,{\mathbf{a}}_n$表示，写作$A=\left[\begin{array}{cccc}{\mathbf{a}}_1& {\mathbf{a}}_2& \cdots & {\mathbf{a}}_n\end{array}\right]$。注意$a_{ij}$是第$j$个列向量${\mathbf{a}}_j$的第$i$个元素。

$m\times n$矩阵$A=\left[\begin{array}{c}{a}_{ij}\end{array}\right]$的对角线元素是$a_{11},a_{22},a_{33},\cdots$，它们组成$A$的主对角线。对角矩阵是一个方阵，它的非对角线元素全是0。例如$n\times n$单位矩阵${\mathbf{I}}_n$。元素全是零的$m\times n$矩阵称为零矩阵，用$0$表示。零矩阵的维数通常可由上下文知道，否则我们就用$0_{m\times n}$表示。

和与标量乘法

向量运算可以自然地推广到矩阵。我们称两个矩阵相等，若它们有相同的维数（即有相同的行数和列数），而且对应元素相等。若$A$与$B$都是$m\times n$矩阵，则和$A+B$也是$m\times n$矩阵，它的各列是$A$与$B$对应列之和。因列的向量加法是对应元素相加，故$A+B$的每个元素也就是$A$与$B$的对应元素相加。 仅当$A$与$B$有相同的维数，$A+B$才有定义。
若$r$是标量而$A$是矩阵，则标量乘法$rA$ 是一个矩阵，它的每一列是$A$的对应列的$r$倍。
定理：

设$A$，$B$，$C$是相同维数的矩阵，$r$与$s$为数，则有：
a. $A+B=B+A$
b. $(A+B)+C=A+(B+C)$
c. $A+0=A$
d. $r(A+B)=rA+rB$
e. $(r+s)A=rA+sA$
f. $r(sA)=(rs)A$

矩阵乘法

矩阵乘法的定义

根据1.8节和1.9节的知识，从线性变换的角度考虑，$m\times n$矩阵$A$左乘向量$\mathbf{x}$相当于把$\mathbf{x}$从${\mathbb{R}}^n$映射到${\mathbb{R}}^m$。
现在考虑一种“复合映射”的情况，也就是将$\mathbf{x}$先左乘矩阵$B$，再左乘矩阵$A$，则得到的向量是经过两次线性变换的向量$A(B\mathbf{x})$。如下图所示：

由此引出矩阵乘法的意义：

我们将矩阵乘法定义为一种“复合映射“，即，定义一种运算$AB$，使得：
$A(B\mathbf{x})=(AB)\mathbf{x}$
上式左边是根据之前的知识得到的，意义是将一个向量$\mathbf{x}$进行两次变换，而我们引入向量乘法的目的，就是要通过两个矩阵的积，将这两个步骤合并为一个步骤，直接表示这一”复合映射“的过程：

由上述矩阵乘法的意义，可以推导矩阵乘法的计算公式：

若$A$是$m\times n$矩阵，$B$是$n\times p$矩阵，$\mathbf{x}$属于${\mathbb{R}}^p$，用${\mathbf{b}}_1,\cdots ,{\mathbf{b}}_p$表示$B$的各列，而$\mathbf{x}$的元素为$x_1,\cdots ,x_p$，则根据1.4节描述的矩阵和向量乘积的定义有：
$$B\mathbf{x}=x_1{\mathbf{b}}_1+\cdots +x_p{\mathbf{b}}_p$$
易知，$B\mathbf{x}$是${\mathbb{R}}^n$中的向量。再由1.4节中描述的矩阵-向量积的性质有：
$$A(B\mathbf{x})=A(x1{\mathbf{b}}_1)+\cdots +A(x_p{\mathbf{b}}_p)=x_{1}A{\mathbf{b}}_1+\cdots +x_{p}A{\mathbf{b}}_p$$
向量$A(B\mathbf{x})$是向量$\left[\begin{array}{cccc}A{\mathbf{b}}_1& A{\mathbf{b}}_2& \cdots & A{\mathbf{b}}_p\end{array}\right]$的线性组合，以$\mathbf{x}$的元素为权。若把这些向量表示成一个矩阵的各列，就有：
$$A(B\mathbf{x})=\left[\begin{array}{cccc}A{\mathbf{b}}_1& A{\mathbf{b}}_2& \cdots & A{\mathbf{b}}_p\end{array}\right]\mathbf{x}$$
于是，乘以矩阵$\left[\begin{array}{cccc}A{\mathbf{b}}_1& A{\mathbf{b}}_2& \cdots & A{\mathbf{b}}_p\end{array}\right]$把$\mathbf{x}$变换为$A(B\mathbf{x})$，由上述关于矩阵乘法的意义，我们就找到了矩阵乘法这种运算的具体计算方式。

根据上述讨论，得出矩阵乘法运算的具体定义：
定义：

若$A$是$m\times n$矩阵，$B$是$n\times p$矩阵，$B$的列是${\mathbf{b}}_1,\cdots ,{\mathbf{b}}_p$，则乘积$AB$是$m\times p$矩阵，它的各列是$A{\mathbf{b}}_1,\cdots ,A{\mathbf{b}}_p$，即：
$$AB=A\left[\begin{array}{cccc}{\mathbf{b}}_1& {\mathbf{b}}_2& \cdots & {\mathbf{b}}_p\end{array}\right]=\left[\begin{array}{cccc}A{\mathbf{b}}_1& A{\mathbf{b}}_2& \cdots & A{\mathbf{b}}_p\end{array}\right]$$
需要注意，$A$的列数必须等于$B$的行数，否则该运算无法成立。
总结：复合映射是线性变换，它的标准矩阵是$AB$，矩阵乘法对应于线性变换的复合。

例：

计算$AB$，其中$A=\left[\begin{array}{cc}2& 3\\ 1& -5\end{array}\right]$，$B=\left[\begin{array}{ccc}4& 3& 6\\ 1& -2& 3\end{array}\right]$。

解：

将$B$写成$\left[\begin{array}{ccc}{\mathbf{b}}_1& {\mathbf{b}}_2& {\mathbf{b}}_3\end{array}\right]$的形式，并分别计算：
$$A{\mathbf{b}}_1=\left[\begin{array}{cc}2& 3\\ 1& -5\end{array}\right]\left[\begin{array}{c}4\\ 1\end{array}\right]=\left[\begin{array}{c}11\\ -1\end{array}\right]$$
$$A{\mathbf{b}}_2=\left[\begin{array}{cc}2& 3\\ 1& -5\end{array}\right]\left[\begin{array}{c}3\\ -2\end{array}\right]=\left[\begin{array}{c}0\\ 13\end{array}\right]$$
$$A{\mathbf{b}}_3=\left[\begin{array}{cc}2& 3\\ 1& -5\end{array}\right]\left[\begin{array}{c}6\\ 3\end{array}\right]=\left[\begin{array}{c}21\\ -9\end{array}\right]$$
因此：
$$AB=A\left[\begin{array}{ccc}\mathbf{b}1& {\mathbf{b}}_2& {\mathbf{b}}_3\end{array}\right]=\left[\begin{array}{ccc}11& 0& 21\\ -1& 13& -9\end{array}\right]$$

由上述运算过程可以得出如下事实：

$AB$的每一列都是$A$的各列的线性组合，以$B$的对应列的元素为权。

矩阵乘法的行列法则

上面给出的矩阵乘法的算法，偏重于对矩阵意义的理解，这里给出矩阵的一种数值计算方法，重点在于方便运算：
矩阵乘法的行列法则：

若乘积$AB$有定义，则$AB$的第$i$行第$j$列的元素是$A$的第$i$行与$B$的第$j$列对应元素乘积之和。若$(AB{)}_{ij}$ 示$AB$的$(i,j)$元素，$A$为$m\times n$矩阵，则：
$$(AB{)}_{ij}=a_{i1}{b}_{1j}+a_{i2}b2j+\cdots +a_{in}{b}_{nj}$$

矩阵乘法的性质

下列定理列出了矩阵乘法的重要性质，其中${\mathbf{I}}_m$表示$m\times m$单位矩阵，对${\mathbb{R}}^m$中的一切$\mathbf{x}$，${\mathbf{I}}_m=\mathbf{x}$。
定理：

设$A$为$m\times n$矩阵，$B$和$C$的维数使下列各式的乘积有定义：
a. $A(BC)=(AB)C$ （乘法结合律）
b. $A(B+C)=AB+AC$ （乘法左分配律）
c. $(B+C)A=BA+CA$ （乘法右分配律）
d. $r(AB)=(rA)B=A(rB)$，$r$为任意数
e. ${\mathbf{I}}_{m}A=A=A{\mathbf{I}}_m$ （矩阵乘法的恒等式）

对于上述性质(a)，可以直接从矩阵乘积的意义上去理解。根据矩阵乘积的意义，两个矩阵$A$、$B$相乘，也就是$AB$的定义是，先对某向量进行$B$变换，再进行$A$变换；也就是说，对某一向量直接进行$AB$变换，和对该向量先进行$B$变换，再进行$A$变换，是等价的。再看性质(a)：

• 等式的左边，含义是，先进行$C$变换，再进行$B$变换，最后进行$A$变换。
• 等式的右边，含义是：先进行$C$变换，再进行$AB$变换。

由于对某一向量直接进行$AB$变换，和对该向量先进行$B$变换，再进行$A$变换是等价的，所以这条性质自然成立。
当然也可以从矩阵乘积”列定义“的角度去证明性质(a)：
证明：

设
$$C=\left[\begin{array}{ccc}{\mathbf{c}}_1& \cdots & {\mathbf{c}}_p\end{array}\right]$$
由矩阵乘法的定义：
$$BC=\left[\begin{array}{ccc}\mathbf{B}{c}_1& \cdots & B{\mathbf{c}}_p\end{array}\right]$$
$$A(BC)=\left[\begin{array}{ccc}A(B{\mathbf{c}}_1)& \cdots & A(B{\mathbf{c}}_p)\end{array}\right]$$
由$AB$乘积的定义可知：对一切$\mathbf{x}$，有$A(B\mathbf{x})=(AB)\mathbf{x}$，该定律也适用于上述矩阵$C$对应的各个列向量${\mathbf{c}}_1,\cdots ,{\mathbf{c}}_p$,所以有
$$A(BC)=\left[\begin{array}{ccc}(AB){\mathbf{c}}_1& \cdots & (AB){\mathbf{c}}_p\end{array}\right]=(AB)C$$
其余性质也可使用这种思路得到证明。
对于上述性质(a)，也就是乘法结合律，可以起到方便运算的作用。例如，四个矩阵的积$ABCD$，可以根据运算的方便程度，转换为$A(BC)D$进行运算。但需要注意的是，一般来说，$AB$与$BA$并不相同。这是因为，$AB$的列是$A$的各列的线性组合，而$BA$的各列是$B$的各列的线性组合。若恰巧有$AB=BA$，那么称$A$和$B$彼此可交换。
需注意如下事实：

1. 一般情况下，$AB\ne BA$
2. 消去律对矩阵乘法不成立，即若$AB=AC$，一般情况下，$B=C$并不成立
3. 若乘积$AB$是零矩阵，一般情况下，不能断定$A=0$或$B=0$

矩阵的乘幂

若$A$是$n\times n$矩阵，$k$是正整数，则$A^k$表示$k$个$A$的乘积（由于矩阵$A$左乘矩阵$B$需要满足$A$的列必须等于$B$的行，因此只有$n\times n$方阵才能和自身相乘）。
若$k=0$，则$A^0\mathbf{x}$就是$\mathbf{x}$自身。因此$A^0$被解释为单位矩阵。

矩阵的转置

给定$m\times n$矩阵$A$，则$A$的转置是一个$n\times m$矩阵，用$A^T$表示，它的列是由$A$的对应行构成的。
例：

若$A=\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]$，则$A^T=\left[\begin{array}{cc}a& c\\ b& d\end{array}\right]$

定理：

a. $(A^T{)}^T=A$
b. $(A+B{)}^T=A^T+B^T$
c. 对任意数$r$，$(rA{)}^T=r{A}^T$
d. $(AB{)}^T=B^T{A}^T$

上述性质的证明均可以通过将矩阵看作向量列的组合来实现。