MIT-线性代数笔记2-矩阵消元

最新推荐文章于 2023-08-24 09:05:16 发布

一心啊~~

最新推荐文章于 2023-08-24 09:05:16 发布

阅读量863

点赞数 1

分类专栏： MIT线性代数数学基础文章标签：线性代数

本文链接：https://blog.csdn.net/m0_61122693/article/details/120026723

版权

数学基础同时被 2 个专栏收录

3 篇文章 0 订阅

订阅专栏

MIT线性代数

2 篇文章 1 订阅

订阅专栏

1. 消元（Elimination）

2. 回代（Back substitution）

3. 消元矩阵（Elimination matrices）

4. 置换矩阵（Permutation Matrices）

5. 逆矩阵（Inverse）

总结

Bilibili-MIT-线性代数34讲视频-2

1. 消元（Elimination）

高斯消元法（Gauss elimination）就是通过对方程组中的某两个方程进行适当的数乘和加减，以达到将某一未知数系数变为零，从而削减未知数个数的目的。

$\left\{\begin{matrix} x+2y+z=2\\ 3x+8y+z=12\\ 4y+z=2 \end{matrix}\right.$

Ax=b

$A=\begin{bmatrix} 1 &2 &1 \\ 3&8 &1 \\ 0& 4 & 1 \end{bmatrix}$ $x=\begin{bmatrix} x\\ y\\ z \end{bmatrix}$ $b=\begin{bmatrix} 2\\ 12\\ 2 \end{bmatrix}$

首先将x看作主元1（the first pivot），A中row2-3*row1，得到

$\begin{bmatrix} 1 & 2 &1 \\ 0 & 2 & -2\\ 0& 4 & 1 \end{bmatrix}$

同理，将y看作主元2，上述矩阵row3-2*row2，得到三角矩阵u

$U=\begin{bmatrix} 1& 2 &1 \\ 0&2 &-2 \\ 0& 0& 5 \end{bmatrix}$

$\begin{vmatrix} A \end{vmatrix}=\begin{vmatrix} U \end{vmatrix}=1\times 2\times 5=10$

上述消元过程对于任意的矩阵，是否都能成立呢？

Success 如上述矩阵，主元存在，可进行加减
Failure 主元为0，可通过换行以使得主元非0，这种失效为暂时性失效，若仍无法解决，则无法继续进行消元

2. 回代（Back substitution）

增广矩阵（augmented matrix）：

在系数矩阵的右边添上一列，这一列是线性方程组的等号右边的值

$\left ( A|b \right )=\begin{bmatrix} 1 &2 &1 &2 \\ 3& 8 &1 &12 \\ 0&4 & 1 & 2 \end{bmatrix}$

消元后得到

$\begin{bmatrix} 1 & 2 &1 &2 \\ 0& 2 & -2& 6\\ 0& 0 & 5 &-10 \end{bmatrix}$

Ax=b可写为Ux=c，其中c

$c=\begin{bmatrix} 2\\ 6\\ -10 \end{bmatrix}$

回代方程即可得到新的方程组如下

$\left\{\begin{matrix} x+2y+z=2\\ 2y-2z=6\\ 5z=-10 \end{matrix}\right.\rightarrow \left\{\begin{matrix} x=1\\ y=1\\ z=-2 \end{matrix}\right.$

3. 消元矩阵（Elimination matrices）

矩阵运算的核心内容就是对“行”或者“列”进行独立操作。

如线性代数笔记1中“列图像”（column picture）所言，系数矩阵右乘以未知数列向量，相当于对系数矩阵的列向量进行线性组合。与之相对称，矩阵左乘行向量则是对矩阵的行向量进行线性组合。

（1）通过左乘矩阵E21实现原矩阵A的row2-3*row1

E21的第二行使矩阵A的行向量进行前述的线性组合，而其它两行为了保持与原矩阵相同，采用同阶单位阵I （identity matrix）的行向量。左乘的这个矩阵为“初等矩阵”（Elementary Matrix），因此记做E。

第一行

$\begin{bmatrix} 1 &0&0 \end{bmatrix}\begin{bmatrix} 1& 2 &1 \\ 3 & 8& 1\\ 0 & 4& 1 \end{bmatrix}=\begin{bmatrix} 1 & 2 & 1 \end{bmatrix}$

第三行

$\begin{bmatrix} 0 & 0& 1 \end{bmatrix}\begin{bmatrix} 1 & 2 &1 \\ 3& 8& 1\\ 0& 4 & 1 \end{bmatrix}=\begin{bmatrix} 0 & 4 & 1 \end{bmatrix}$

第二行（实现row2-3*row1）

$\begin{bmatrix} -3 &1 &0 \end{bmatrix}\begin{bmatrix} 1 &2 &1 \\ 3&8 & 1\\ 0 & 4& 1 \end{bmatrix}=\begin{matrix} -3\begin{bmatrix} 1 & 2& 1 \end{bmatrix}\\ \\ +1\begin{bmatrix} 3 & 8& 1 \end{bmatrix}\\ \\ +0\begin{bmatrix} 0 & 4& 1 \end{bmatrix} \end{matrix} =\begin{bmatrix} 0 & 2 & -2 \end{bmatrix}$

可记作

$\begin{matrix} \begin{bmatrix} 1 &0 &0 \\ -3& 1& 0\\ 0 &0 & 1 \end{bmatrix} \\E_{21} \end{matrix} \begin{matrix} \begin{bmatrix} 1 & 2 & 1\\ 3&8 &1 \\ 0& 4 & 1 \end{bmatrix}\\A \end{matrix} =\begin{matrix} \begin{bmatrix} 1 & 2&1 \\ 0& 2& -2\\ 0 & 4 &1 \end{bmatrix}\\ E_{21}A \end{matrix}$

（2）通过左乘矩阵E32实现矩阵E21A的row3-2*row2

$\begin{matrix} \begin{bmatrix} 1 &0 &0 \\ 0& 1& 0\\ 0 &-2 & 1 \end{bmatrix} \\E_{32} \end{matrix} \begin{matrix} \begin{bmatrix} 1 & 2 & 1\\ 0&2 &-2 \\ 0& 4 & 1 \end{bmatrix}\\E_{21}A \end{matrix} =\begin{matrix} \begin{bmatrix} 1 & 2&1 \\ 0& 2& -2\\ 0 & 0 &5 \end{bmatrix}\\ E_{32}(E_{21}A) \end{matrix}$

上述消元过程中由于第三行第一列为0，故可理解为 $E_{31}=I$ ，省去了此步骤，可总结为

$E_{32}(E_{31}(E_{21}A))=U$

由于E31为单元矩阵（identity matrix, I），结合矩阵运算的结合律（associate law）

$(E_{32}E_{21})A=EA=U$

同理，有

回代方程，即可得

Ux=EAx=Eb=c

4. 置换矩阵（Permutation Matrices）

上文中说到，若主元为0，无法消元，存在暂时性失效情况时，需要进行换行/列，那如何实现置换得步骤呢？为此，引入了置换矩阵P。

以2阶矩阵为例，换行，左乘置换矩阵P

换列，右乘置换矩阵P

若是扩展到3阶呢？

$\begin{bmatrix} 0&0 &1 \\0 &1 &0 \\ 1&0 & 0\end{bmatrix}\begin{bmatrix} a & b &c \\ d& e &f \\ g&h & i \end{bmatrix}=\begin{bmatrix} g & h & i\\ d& e& f\\ g& h & i \end{bmatrix}$

式中左乘P，p13=1可以理解为把row3置换为row1，p31=1可理解为row1置换至row3，p22=1由于下标相等均为2，故row2不动。

$\begin{bmatrix} a & b &c \\ d& e &f \\ g&h & i \end{bmatrix}\begin{bmatrix} 0&0 &1 \\0 &1 &0 \\ 1&0 & 0\end{bmatrix}=\begin{bmatrix} c & b &a\\ f& e& d\\ i& h & g \end{bmatrix}$

式中右乘P，p13=1可以理解为把column3置换为column1，p31=1可理解为column1置换至column3，p22=1由于下标相等均为2，故column2不动。以此类推。

In short, to do row operations, the matrix multiplies on the left.

To do column operations, it multiplies on the right.

5. 逆矩阵（Inverse）

设A是一个n阶矩阵，若存在另一个n阶矩阵B，使得： AB=BA=E ，则称方阵A可逆，并称方阵B是A的逆矩阵。

本节课程则主要针对上述消元过程，讨论是否存在逆矩阵使得U变换回A，引出下节课程。

对于上述消元矩阵E21，相当于row2-3*row1，为还原这一过程，逆矩阵则应对矩阵E21A的3*row1+row2，由此

$\begin{matrix} \begin{bmatrix} 1 & 0 &0 \\ 3& 1 & 0\\ 0& 0 & 1 \end{bmatrix}\\ E_{21}^{-1} \end{matrix}\begin{matrix} \begin{bmatrix} 1 & 0 &0 \\ -3 &1 &0 \\ 0 & 0 & 1 \end{bmatrix}\\ E_{21} \end{matrix}=\begin{matrix} \begin{bmatrix} 1 & 0 & 0\\ 0& 1&0 \\ 0 &0 & 1 \end{bmatrix}\\ I \end{matrix}$