《线性代数》学习笔记 1

《麻省理工公开课：线性代数》—— 网易公开课

1 方程组的几何解释

二元一次方程组：

$\{\begin{array}{l}2x-y=0\\ -x+2y=3\end{array}$

矩阵形式：

$\left[\begin{array}{cc}2& -1\\ -1& 2\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}0\\ 3\end{array}\right]$

记为： $Ax=b$

列的组合形式：

$x\left[\begin{array}{c}2\\ -1\end{array}\right]+y\left[\begin{array}{c}-1\\ 2\end{array}\right]=\left[\begin{array}{c}0\\ 3\end{array}\right]$

乘法运算：

$\left[\begin{array}{cc}2& 5\\ 1& 3\end{array}\right]\left[\begin{array}{c}1\\ 2\end{array}\right]=1\left[\begin{array}{c}1\\ 2\end{array}\right]+2\left[\begin{array}{c}5\\ 3\end{array}\right]=\left[\begin{array}{c}12\\ 7\end{array}\right]$

或者

$\left[\begin{array}{cc}2& 5\\ 1& 3\end{array}\right]\left[\begin{array}{c}1\\ 2\end{array}\right]=\left[\begin{array}{c}2\times 1+5\times 2\\ 1\times 1+3\times 2\end{array}\right]=\left[\begin{array}{c}12\\ 7\end{array}\right]$

2 矩阵消元

$\{\begin{array}{l}x+2y+z=2\\ 3x+8y+z=12\\ 4y+z=2\end{array}$

记为： $Ax=b$

消元过程：

$\left[\begin{array}{ccc}1& 2& 1\\ 3& 8& 1\\ 0& 4& 1\end{array}\right]\to \left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 4& 1\end{array}\right]\to \left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 0& 5\end{array}\right]$

最后一个矩阵中，对角线1 2 5为主元，主元不能为0

扩展到增广矩阵：

$\left[\begin{array}{cccc}1& 2& 1& 2\\ 3& 8& 1& 12\\ 0& 4& 1& 2\end{array}\right]\to \left[\begin{array}{cccc}1& 2& 1& 2\\ 0& 2& -2& 6\\ 0& 4& 1& 2\end{array}\right]\to \left[\begin{array}{cccc}1& 2& 1& 2\\ 0& 2& -2& 6\\ 0& 0& 5& -10\end{array}\right]$

回代：

$\{\begin{array}{l}x+2y+z=2\\ 2y-2z=6\\ 5z=10\end{array}$

记为： $Ux=c$

用矩阵乘法表示消元第一步：

$\left[\begin{array}{ccc}1& 0& 0\\ -3& 1& 0\\ 0& 0& 1\end{array}\right]\left[\begin{array}{ccc}1& 2& 1\\ 3& 8& 1\\ 0& 4& 1\end{array}\right]=\left[\begin{array}{ccc}1& 2& 1\\ 0& 2& -2\\ 0& 4& 1\end{array}\right]$

整个消元过程为： $E_{32}(E_{21}A)=(E_{32}{E}_{21})A=U$

矩阵乘法满足结合律，不满足交换律。

逆矩阵：

$\left[\begin{array}{ccc}1& 0& 0\\ 3& 1& 0\\ 0& 0& 1\end{array}\right]\left[\begin{array}{ccc}1& 0& 0\\ -3& 1& 0\\ 0& 0& 1\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$

$E^{-1}E=I$

3 乘法和逆矩阵

矩阵乘法：

$A_{m\times p}{B}_{p\times n}=C_{m\times n}$

$其中：C_{ij}={\sum }_{k=1}^p{a}_{ik}{b}_{kj}，C_{ij}为A的第i行乘以B的第j列$

$C的每一列可看作A的列的线性组合$
$C的每一行可看作B的行的线性组合$

$AB=A的每一列乘以B的每一行的和$

可以将矩阵分成块进行乘法。

逆矩阵：

非奇异矩阵：可逆
奇异矩阵：不可逆

G-J消元法求逆：

$\left[\begin{array}{cccc}1& 3& 1& 0\\ 2& 7& 0& 1\end{array}\right]\to \left[\begin{array}{cccc}1& 3& 1& 0\\ 0& 1& -2& 1\end{array}\right]\to \left[\begin{array}{cccc}1& 0& 7& -3\\ 0& 1& -2& 1\end{array}\right]$

4 A的LU分解

$公式：$
$(AB{)}^{-1}=B^{-1}{A}^{-1}$
$(A^{-1}{)}^T=(A^T{)}^{-1},A^T为A的转置$

$A的LU分解：$
$EA=U$
$A=LU$

$令A=\left[\begin{array}{ccc}1& 2& 1\\ 2& 1& 1\\ 1& 5& 3\end{array}\right]$

$计算EA=U：$

$\left[\begin{array}{ccc}1& 0& 0\\ -2& 1& 0\\ -1& 0& 1\end{array}\right]\left[\begin{array}{ccc}1& 2& 1\\ 2& 1& 1\\ 1& 5& 3\end{array}\right]=\left[\begin{array}{ccc}1& 2& 1\\ 0& -3& -1\\ 0& 3& 2\end{array}\right]$

$\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 1& 1\end{array}\right]\left[\begin{array}{ccc}1& 2& 1\\ 0& -3& -1\\ 0& 3& 2\end{array}\right]=\left[\begin{array}{ccc}1& 2& 1\\ 0& -3& -1\\ 0& 0& 1\end{array}\right]=U$

则：
$E=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 1& 1\end{array}\right]\left[\begin{array}{ccc}1& 0& 0\\ -2& 1& 0\\ -1& 0& 1\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ -2& 1& 0\\ -3& 1& 1\end{array}\right]$

$计算A=LU，同上：$

$L=\left[\begin{array}{ccc}1& 0& 0\\ 2& 1& 0\\ 1& 0& 1\end{array}\right]\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& -1& 1\end{array}\right]=\left[\begin{array}{ccc}1& 0& 0\\ 2& 1& 0\\ 1& -1& 1\end{array}\right]$

A=LU的形式比EA=U更好，因为L中的元素就是消元的乘数。

5 转置-置换-向量空间R

转置：将矩阵的行变成列，列变成行，记做 $A^T$
$(A^T{)}_{ij}=A_{ji}$

置换：交换矩阵的行或列
置换矩阵是行重新排列的单位矩阵，记做 $P$
n阶置换矩阵个数为 $n!$
$P^T=P^{-1}$

对称矩阵：$A^T=A$
$对任意矩阵R，(R^{T}R{)}^T=R^{T}R$

对A进行置换后的LU分解：
$PA=LU$

向量空间：
有加法和数乘运算，空间中向量经过加法和数乘运算得到的新向量仍在该空间内（对线性组合封闭）。

举例：
$R^2：实数组成的2维空间$
$R^3：实数组成的3维空间$
$R^n：实数组成的n维空间$

子空间：
$举例，R^2的子空间：$
$1、R^2自己$
$2、经过零点的直线$
$3、单个0向量，记做Z$

矩阵构造子空间：
$A=\left[\begin{array}{cc}1& 3\\ 2& 3\\ 4& 1\end{array}\right]$
$A中每一列是R^3中的向量，这两列组成的空间为R^3的子空间，称作列空间，记做C(A)。$
$几何上，C(A)构成一个平面。$

6 列空间和零空间

$对任意子空间S和T，交集S\bigcap T是子空间。$

$设A=\left[\begin{array}{ccc}1& 1& 2\\ 2& 1& 3\\ 3& 1& 4\\ 4& 1& 5\end{array}\right]，则C(A)是R^4的子空间。$

$Ax=b有解，当且仅当b属于A的列空间。$

$零空间：Ax=0的解构成的子空间。$
$在本例中零空间是一条直线。$