线性代数及其应用：第一章 矩阵与高斯消去法

前言：这篇blog是《 Linear Algebra and Its Applications》第一章的一些学习笔记

第一章 矩阵与高斯消去法

  核心问题：解线性方程组
  基本方法：高斯消去法(第一、二章的根本，很简单，但确实可以解决线性代数中的很多问题)
  重点：矩阵的三角分解$PA=LDU$，对称矩阵的三角分解$A=LD{L}^T$

1. 线性方程组

  对线性方程组
$$\{\begin{array}{ll}1x+2y=3& \\ 4x+5y=6& \end{array}$$
  表示成矩阵乘法形式如下：
$$AX=\left[\begin{array}{cc}1& 2\\ 4& 5\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}3\\ 6\end{array}\right]$$

  进一步定义
  非奇异情况(Nonsingular)：有唯一解；
  奇异情况(Singular)：有无数解或无解；
  这里我们可以看出，线性方程组的解只有三种情况，有唯一解，有无数解，无解。没有两个解或三个解的情况，下面证明$AX=B$如果有两个解$X_1,X_2$，即一定有无穷多个解。

证明：
设$AX=B$有两个解$X_1,X_2$，$X_1̸=X_2$
则$A{X}_1=B$，$A{X}_2=B$
构造$X=\lambda X_1+(1-\lambda )X_2,(0<\lambda <1)$
则$AX=\lambda A{X}_1+(1-\lambda )A{X}_2=\lambda B+(1-\lambda )B=B$，所以$X=\lambda X_1+(1-\lambda )X_2,(0<\lambda <1)$也是$AX=B$的解，证毕。

---

2. 矩阵符号与矩阵加法，数乘，乘法

  这是基本知识，简单罗列一下。矩阵，就是一堆数的集合，表示成如下形式
$$A_{2\times 3}=\left[\begin{array}{cc}2& 1\\ 3& 0\\ 0& 4\end{array}\right]，B_{2\times 3}=\left[\begin{array}{cc}1& 2\\ -3& 1\\ 1& 2\end{array}\right]$$

  矩阵加法定义：
$$A+B=\left[\begin{array}{cc}2& 1\\ 3& 0\\ 0& 4\end{array}\right]+\left[\begin{array}{cc}1& 2\\ -3& 1\\ 1& 2\end{array}\right]=\left[\begin{array}{cc}3& 3\\ 0& 1\\ 1& 6\end{array}\right]$$

  矩阵数乘定义：
$$2A=2\times \left[\begin{array}{cc}2& 1\\ 3& 0\\ 0& 4\end{array}\right]=\left[\begin{array}{cc}4& 2\\ 6& 0\\ 0& 8\end{array}\right]$$

  矩阵乘法定义：要求A的列数必须等于B的行数，$A\times B=C$，则$C_{ij}=A$的第$i$行行向量$\times B$的第$j$列列向量，像上面定义的矩阵A,B就无法做乘法。

2.1. 矩阵乘法的意义

  下面简单讨论一下矩阵乘法的意义，重点解释一下矩阵的乘法，其实乘法的操作来的一点也不突兀。考虑两个系统A,B，系统A的作用是把输入向量$X=[x_1,x_2{]}^T$的元素做线性组合，$y_1=a_{11}{x}_1+a_{12}{x}_2，y_2=a_{21}{x}_1+a_{22}{x}_2$，A用矩阵表示为，$$A=\left[\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right]$$输出向量$Y=AX$，$Y=[y_1,y_2{]}^T$；系统B的作用是把输入向量$Y=[y_1,y_2{]}^T$的元素做线性组合，$c_1=b_{11}{y}_1+b_{12}{y}_2，c_2=b_{21}{y}_1+b_{22}{y}_2$，B用矩阵表示为， B = [ b 11 b 12 b 21 b 22 ] B=\left[ \begin{matrix} b_{11} &amp; b_{12}\\ b_{21} &amp; b_{22} \end{matrix} \right] B=[b11​b21​​