MIT线性代数笔记02-矩阵消元

Linear Algebra-Lecture02 矩阵消元

Gilbert Strang

本节目标

\qquad 几乎所有软件求解线性方程组都是使用的也是消元法。本节将学会用矩阵语言描述消元法，因为对于整个课程而言，核心概念是“矩阵变换”。

第一部分： 消元法

\qquad 例1,求解方程组
$$\{\begin{array}{cc}x+2y+z=2& (1)\\ 3x+8y+z=12& (2)\\ 4y+z=2& (3)\end{array}$$

\qquad 写成矩阵形式：$\mathbf{A}\mathbf{x}=\mathbf{b}$,其中$\mathbf{A}=\left[\begin{array}{ccc}1& 2& 1\\ 3& 8& 1\\ 0& 4& 1\end{array}\right]\begin{array}{c}r1\\ r2\\ r3\end{array}$

$$\left[\begin{array}{ccc}\boxed{1}& 2& 1\\ 3& 8& 1\\ 0& 4& 1\end{array}\right]$$
第一步，将$a_{11}=1$ 确定为主元一（first pivot）,与$x$对应，第r1行不变。确定消元系数使得主元行$a_{11}$下方的系数都变为0 。这里r2-3r1，r3-0r1得：
$$\left[\begin{array}{ccc}1& 2& 1\\ 0& \boxed{2}& -2\\ 0& 4& 1\end{array}\right]$$

第二步，将$a_{22}=2$ 确定为主元二（second pivot），与$y$对应，第r2行不变。确定消元系数使得主元行$a_{22}$下方的系数都变为0，即使用主元二消掉$a_{32}$ 。这里r3-2*r2即可，得：

$$\left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 0& \boxed{5}\end{array}\right]=\mathbf{U}$$
将行阶梯矩阵矩阵命名为$\mathbf{U}$ ，因此消元的目的就是从$\mathbf{A}$ 变到 $\mathbf{U}$ ，这是计算科学中最普遍的运算 ,注意，消元过程中主元不能为0 。顺便，行列式等于主元之积。

消元失效的情形：
1. \quad 0占据了主元位置，比如 $a_{11}=0$ ，解决方式：进行行交换。
2. \quad 若主元个数小于行阶梯矩阵行数，则方程无解。

第三步，回代
将等号右边的常数列加入到矩阵$\mathbf{A}$ 中，得到增广矩阵，将最后一列(b列)同样进行上述操作。
$$\left[\begin{array}{cccc}1& 2& 1& 2\\ 3& 8& 1& 12\\ 0& 4& 1& 2\end{array}\right]\to \left[\begin{array}{cccc}1& 2& 1& 2\\ 0& 2& -2& 6\\ 0& 4& 1& 2\end{array}\right]\to \left[\begin{array}{cccc}1& 2& 1& 2\\ 0& 2& -2& 6\\ 0& 0& 5& -10\end{array}\right]$$
将增广矩阵最后一列命名为c，即$\mathbf{c}=\left(\begin{array}{c}2\\ 6\\ -10\end{array}\right)$
(这里先处理A再处理增广矩阵，主要是保持和Matlab的习惯一致)
至此，方程组变为：
$$\{\begin{array}{cc}x+2y+z=2& \\ 2y-2z=6& \\ 5z=-10& \end{array}（4）$$
由方程（4）易得方程的解为$\{\begin{array}{c}x=2\\ y=1\\ z=-2\end{array}$
方程$\mathbf{A}\mathbf{x}=\mathbf{b}$等价于$\mathbf{U}\mathbf{x}=\mathbf{c}$

第二部分： 消元过程的矩阵表示

用矩阵表示r2-3r1：
$$\left[\begin{array}{ccc}1& 0& 0\\ -3& 1& 0\\ 0& 0& 1\end{array}\right]\left[\begin{array}{ccc}1& 2& 1\\ 3& 8& 1\\ 0& 4& 1\end{array}\right]=\left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 4& 1\end{array}\right]$$
将最左边矩阵记作${\mathbf{E}}_{21}=\left[\begin{array}{ccc}1& 0& 0\\ -3& 1& 0\\ 0& 0& 1\end{array}\right]$ ，表示$a_{21}$位置上的变换。同理，r3-2r2可以表示为
$$\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& -2& 1\end{array}\right]\left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 4& 1\end{array}\right]=\left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 0& 5\end{array}\right]$$
将最左边矩阵记作${\mathbf{E}}_{32}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& -2& 1\end{array}\right]$ ，表示$a_{21}$位置上的变换。
消元的完整过程用矩阵表示如下：
$${\mathbf{E}}_{32}({\mathbf{E}}_{21}\mathbf{A})=\mathbf{U}(5)$$
矩阵乘法具有结合律（此处不作证明，注意没哟交换律），因此(5)式也可写成
$$（{\mathbf{E}}_{32}{\mathbf{E}}_{21}）\mathbf{A}=\mathbf{U}(6)$$
（补充）置换矩阵（permutation）：

交换行
$$\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]=\left[\begin{array}{cc}c& d\\ a& b\end{array}\right]$$
最左边的矩阵为置换矩阵，记为$\mathbf{P}=\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]$
不难发现，对单位矩阵进行行变换就能得到置换矩阵。

交换列：
$$\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]=\left[\begin{array}{cc}b& a\\ d& c\end{array}\right]$$
左乘置换矩阵，进行行变换，右乘置换矩阵，交换列。行变换左乘，列变换右乘

第三部分： 逆矩阵

逆变换（$\mathbf{U}\to \mathbf{A}$）
$$\left[\begin{array}{ccc}1& 0& 0\\ 3& 1& 0\\ 0& 0& 1\end{array}\right]\left[\begin{array}{ccc}1& 0& 0\\ -3& 1& 0\\ 0& 0& 1\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$$

$\mathbf{E}=\left[\begin{array}{ccc}1& 0& 0\\ -3& 1& 0\\ 0& 0& 1\end{array}\right]$ 则记${\mathbf{E}}^{-1}=\left[\begin{array}{ccc}1& 0& 0\\ 3& 1& 0\\ 0& 0& 1\end{array}\right]$ ,

$\mathbf{I}=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$
$${\mathbf{E}}^{-1}\mathbf{E}=\mathbf{I}(7)$$

===================================================

课程资源

• 主课：bilibli、网易公开课都可以搜到，关键字（麻省理工，线性代数）
• 配套习题课：bilibli可以搜到，关键字（麻省理工，线性代数，陈莉楠）
• 教材：Gilbert Strang.Introduction to Linear Algebra
• 课程官网：http://web.mit.edu/18.06
  \qquad\qquad https://mitmath.github.io/1806/