简述矩阵运算

有不少前辈对矩阵给出过精妙的直观描述，本文仅对这些奇妙的视角做一个简要归纳总结。而与之相关的各种严谨数学概念和证明可以参考任何一本线性代数教材，本文不做赘述。

一、矩阵及其运算

线性代数这门课通篇都在灌输一个思想，就是如何变换一个视角来更清晰简单的看待复杂问题。

（一）如何看待矩阵

矩阵就可以被看做是一组新基（基的概念可参见《简述线性方程组》）。因此可以说矩阵是通过描述一个新基来描述一个线性变换方案。而矩阵做乘法就是在实施其描述的线性变换，而变换的途径是改变原来空间的基。如下图所示：

所谓线性变换，即各变量经此映射后的线性组合，与各变量线性组合后再经此映射，结果一样。经线性变换后的空间网格线仍保持平行且等距。

（二）如何看待矩阵乘法

当把矩阵视为一组列向量时，矩阵左乘一个向量会得到另一个向量，可写成$\mathbf{A}\mathbf{X}=\mathbf{Y}$。左式展开可写成：
$$\left[\begin{array}{cccc}{\mathbf{A}}_1& {\mathbf{A}}_2& \cdots & {\mathbf{A}}_n\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]=x_1{\mathbf{A}}_1+x_2{\mathbf{A}}_2+\cdots +x_n{\mathbf{A}}_n$$右式其实可视为$\mathbf{I}\mathbf{Y}$，其中$\mathbf{I}$为单位阵，即$n$维空间的一组标准正交基。由此可见，原来在$\mathbf{I}$基上坐标是$\mathbf{X}$的向量，通过将其坐标值直接放到$\mathbf{A}$基上实现线性变换后，新向量的坐标在$\mathbf{A}$基上是$\mathbf{X}$，在$\mathbf{I}$基上是$\mathbf{Y}$。

任何向量都是以其在某基的各维上的投影向量和来表示。

当将上述单一列向量$\mathbf{X}$换成另一个矩阵$\mathbf{B}$，其相乘结果将是一个矩阵，即$\mathbf{A}\mathbf{B}=\mathbf{C}$。此时$\mathbf{B}$也可视为一组列向量，两矩阵相乘相当于把$\mathbf{B}$描述的基向量都做了上述的线性变换，新基的各基向量坐标在$\mathbf{A}$基上是$\mathbf{B}$，在$\mathbf{I}$基上是$\mathbf{C}$。

所有矩阵都可视其左边有个同列数的单位阵，所以矩阵右乘一个向量即可视为直接变换该向量，也可视为变换该向量的基。

当然，也可以把矩阵视为一组行向量，此时矩阵右乘一个向量可解释为在$\mathbf{I}$基上的坐标是$\mathbf{X}$的向量投影到$\mathbf{A}$张成的向量空间后的坐标是$\mathbf{Y}$。其中各坐标轴的坐标值按该坐标轴上的基向量模长做了缩放。即
$$\left[\begin{array}{c}{\mathbf{A}}_1\\ {\mathbf{A}}_2\\ ⋮\\ {\mathbf{A}}_n\end{array}\right]\mathbf{X}=\left[\begin{array}{c}{\mathbf{A}}_1\mathbf{X}\\ {\mathbf{A}}_2\mathbf{X}\\ ⋮\\ {\mathbf{A}}_n\mathbf{X}\end{array}\right]$$

（三）如何看待矩阵的初等变换

所谓初等变换包括初等行变换和初等列变换，指的是对矩阵的行或列做以下三种操作：

1. 对调任意两行/列；
2. 用一个系数乘以任意一行/列；
3. 将某一行/列加到任意另一行/列上。

对一个矩阵做初等行（列）变换相当于在该矩阵左边（右边）乘以相同行数（列数）的相应初等矩阵。所谓“初等矩阵”即对单位矩阵做一项初等变换后的矩阵。

按此观点，可以很容易理解求逆阵的过程：对一个方阵做一系列初等行变换将其化为单位阵，就相当于左乘了其逆阵，因此同样的一系列初等变换作用于单位阵，也相当于对单位阵左乘那个逆阵，而任何矩阵左乘单位阵的结果不变，所以把一个方阵和一个同阶单位阵并排放一起做一系列初等行变换，当方阵变成单位阵时，原来单位阵的位置就成了原方阵的逆阵。

二、矩阵的特征值及其特征向量

（一）概念

对于一个$n$阶方阵$\mathbf{A}$而言，$n$维向量空间中有些向量通过与$\mathbf{A}$相乘做线性变换后只是坐标尺度发生变化，而并未离开原向量所在直线，即$\mathbf{A}\mathbf{X}=\lambda \mathbf{X}$ ，这些向量都称为该方阵的特征向量，而其相应的坐标尺度伸缩倍数$\lambda$就是对应该特征向量的特征值。

（二）求法

由$\mathbf{A}\mathbf{X}=\lambda \mathbf{X}$ 可得$(\mathbf{A}-\lambda \mathbf{I})\mathbf{X}=0$ ，而使$\mathbf{X}$取得非零解的充要条件是$|\mathbf{A}-\lambda \mathbf{I}|=0$。解此多项式方程可得$\lambda$的$n$个解即为$n$阶方阵$\mathbf{A}$的$n$个特征值。

将每个特征值代入$(\mathbf{A}-\lambda \mathbf{I})\mathbf{X}=0$都得到一个齐次线性方程组，其所有解构成了对应此特征值的特征向量空间（解法详见《简述线性方程组》）。对于唯一特征值，其特征向量空间就是一条直线。

（三）性质

设一个$n$阶方阵$\mathbf{A}$有$n$个特征值$\lambda$，其第$i$个特征值${\lambda }_i$对应第$i$个特征向量${\mathbf{X}}_i$。基于前述概念可知如下性质：

1. 所有特征值的和是方阵对角线元素的和；所有特质值的积是方阵的行列式（可参见《简述行列式》中对行列式几何意义的描述）。
2. 若 $\varphi (\mathbf{A})=a_0\mathbf{I}+a_1\mathbf{A}+a_2{\mathbf{A}}^2+\cdots +a_m{\mathbf{A}}^m$，则$\varphi ({\lambda }_i)$仍是$\varphi (\mathbf{A})$对应特征向量${\mathbf{X}}_i$的特征值。
3. 若$\mathbf{A}$可逆，则${\lambda }_i^{-1}$仍是${\mathbf{A}}^{-1}$对应特征向量${\mathbf{X}}_i$的特征值。
4. 不同特征值对应的特征向量一定线性无关；但不一定正交，除非是实对称阵的特征向量。

三、相似矩阵

（一）概念

${\mathbf{P}}^{-1}\mathbf{A}\mathbf{P}=\mathbf{B}$ 表示$\mathbf{I}$基上的任一向量经基变换转移到$\mathbf{P}$基上后，做一个$\mathbf{A}$描述的线性变换，再转移回$\mathbf{I}$基上的过程，等价于该向量在$\mathbf{I}$基上直接做$\mathbf{B}$描述的线性变换，此时称方阵$\mathbf{A}$与$\mathbf{B}$相似，其中称$\mathbf{P}$为相似过渡阵。

可见相似矩阵就是同一线性变换方案（新基）在不同基上的不同描述。

（二）性质

1. 相似方阵有相同特征值。
   既然特征值反映的是一个线性变换中各特征向量的缩放倍数，而相似矩阵又是同一变换在不同基上的描述，因此有相同的放缩倍数，但对应的特征向量需经相似过渡阵做变换。
2. 当$\mathbf{P}$是由$\mathbf{A}$的各线性无关特征向量构成的特征基时，${\mathbf{P}}^{-1}\mathbf{A}\mathbf{P}=\mathbf{\Lambda }$，其中$\mathbf{\Lambda }$为由$\mathbf{A}$的各特征值构成的对角阵。即方阵在其特征基上描述的变换等价于对$\mathbf{I}$基按方阵各特征值对各基向量做缩放。
   因为任何一个向量$\mathbf{X}$经基变换转移到特征基$\mathbf{P}$上后，则成为了一个由各特征向量线性组合构成的新向量，而$\mathbf{A}$对其所有特征向量（即新向量的基）的作用都是按对应特征值做缩放，所以此向量再转移回$\mathbf{I}$基后，其变化也相当于所在基$\mathbf{I}$的各基向量按对各特征值做相应放缩（即空间网格只缩放而不改变形状和位置）。

四、二次型

（一）概念

任一$n$元二次齐次多项式（即每一项都是2个未知数的乘积）都可表示为一个矩阵相乘的形式，称为二次型。例如
$$x_1^2-3x_3^2-4x_1{x}_2+x_2{x}_3$$可表示为
$$\left[\begin{array}{ccc}{x}_1& x_2& x_3\end{array}\right]\left[\begin{array}{ccc}1& -2& 0\\ -2& 0& 0.5\\ 0& 0.5& -3\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]$$简记为${\mathbf{X}}^T\mathbf{A}\mathbf{X}$，其中$\mathbf{A}$永远是对称阵。

（二）标准化

以二元二次齐次多项式为例，当其等于一个非0常数时，描述的都是一个中心在原点的椭圆，只是可能是被旋转了一定角度，如果可以通过换元来只保留平方项，则可得到一个焦点在$x$轴上的标准椭圆，这个换元过程即为二次型的标准化。只保留平方项，其实就是化上述$\mathbf{A}$为相似对角阵。

即找到一个过渡阵$\mathbf{P}$，使得$\mathbf{X}=\mathbf{P}\mathbf{Y}$，即
$${\mathbf{X}}^T\mathbf{A}\mathbf{X}=(\mathbf{P}\mathbf{Y}{)}^T\mathbf{A}(\mathbf{P}\mathbf{Y})={\mathbf{Y}}^T({\mathbf{P}}^T\mathbf{A}\mathbf{P})\mathbf{Y}$$时有${\mathbf{P}}^T\mathbf{A}\mathbf{P}=\mathbf{\Lambda }$。

由于$\mathbf{A}$是对称阵，可知其特征基矩阵$\mathbf{P}$各列向量必然正交，如再做标准化，则其特征基就是一个标准正交基，由于标准正交基的转置方阵就是其逆阵，从而满足${\mathbf{P}}^T\mathbf{A}\mathbf{P}={\mathbf{P}}^{-1}\mathbf{A}\mathbf{P}=\mathbf{\Lambda }$。可见二次型的标准化就是找到一个标准特征基来对二次型矩阵做对角化。