线性代数Ax=b原理及工程上的应用

前言

线性代数在工程应用上十分广泛，在坐标系转换，深度学习，求解算法的优化解方面有着大量应用。因此掌握线性代数的基本理论，并且具有解决实际工程问题的能力尤为重要。

线性方程组解的情况

线性方程组的解的三种情况

1. 适定方程组：存在唯一解
2. 欠定方程组：存在多解。变量数<方程组数
3. 超定方程组：无解。但可以求出近似解

二元方程组解的三种情况

超定二元方程组的解

$\{\begin{array}{c}{x}_1+x_2=1\\ x_1-x_2=3\\ -x_1+2x_2=-3\end{array}$
以上是无解的，即方程组不相容，但有近似解-----最小二乘解！

用线性代数数值解计算实际工程问题

对某一城市的交通流量分析：
节点A:$x_1+450=x_2+610$
节点B:$x_2+520=x_3+480$
节点C:$x_3+390=x_4+600$
节点D:$x_4+640=x_1+310$
列出方程组是：
$\{\begin{array}{c}{x}_1-x_2=160\\ x_2-x_3=-40\\ x_3-x_4=210\\ x_4-x_1=-330\end{array}$
按照$Ax=b$的格式转化成矩阵形式
$\left[\begin{array}{cccc}1& -1& 0& 0\\ 0& 1& -1& 0\\ 0& 0& 1& -1\\ -1& 0& 0& 1\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\\ x_4\end{array}\right]=\left[\begin{array}{c}160\\ -40\\ 210\\ -330\end{array}\right]$
在$Ax=b$中，$b$代表常数，这是线性方程组。注意：$A$必须是方阵才能求逆。对其x的求解，可能出现无解，有解，多解的情况，不能用$x$求$b/A$
所以，可以用matlab相关函数求解，使用简化行列式的思路，对行矩阵变换！

b=[160;-40;210;-330];
U=rref([A,b]);

可以求出$U$的简化行列式为：
$U=\left[\begin{array}{ccccc}1& 0& 0& -1& 330\\ 0& 1& 0& -1& 170\\ 0& 0& 1& -1& 210\\ 0& 0& 0& 0& 0\end{array}\right]$
可以看出，简化后属于欠定方程，属于多解问题。

矩阵建模的方法

1. 列出全部方程，构成方程组
2. 将方程组变成矩阵
3. 求解，用matlab
   复杂的系统。列出的方程通常有两种形式。（注意，是列方程）
   变量在等号左侧，常数项在右侧，整理出$Ax=b$
   若有多种变量，将一个变量在等号左边，其余变量在右边
   使其能变成：
   $X=QX+PU$矩阵
   方程是$（1-Q）X=PU$
   传递函数是$W=X/U=inv(1-Q)\ast P$

$Ax=b$的五种写法

• $\{\begin{array}{c}{x}_1+x_2-x_3=7\\ 2x_1-x_2+3x_3=9\end{array}$
• $\left[\begin{array}{ccc}2& 1& -1\\ 2& -1& 3\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}7\\ 9\end{array}\right]$
• $Ax=b$
• $\left[\begin{array}{ccc}{\alpha }_1& {\alpha }_2& {\alpha }_3\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}7\\ 9\end{array}\right]$
• $x_1{\alpha }_1+x_2{\alpha }_2+x_3{\alpha }_3=b$

$Ax=B$的解法

方法一：
$X=B/A$用逆矩阵来求（逆矩阵的前提是A是方阵）
逆矩阵的matlab函数是

V=inv(A)

$Ax=B$可以求出$x=B/A$

x=B*inv(A);

$Ax=b$，  非齐次线性方程组
$Ax=0$,     齐次线性方程组

方法二：
也可以用行列式来判断解是否存在：
判断线性方程组的解是否存在和唯一：Ax=0
A是系数矩阵，$\left|A\right|\ne 0$,解存在
在MATLAB中求行列式的值，用

det(A);

非齐次线性方程组Ax=b解存在且唯一的条件是$det(A)\ne 0$
齐次线性方程组Ax=0有非0解的条件是$det(A)=0$

$Ax=b$三个不同角度讨论

1. Ax=b 最简行列式变换，消元，求有，无，超定，欠定解，rref
2. 把Ax当成A是列向量组，判断是否相关，证明超定方程的最小二乘解！
3. 把A看成一个几何变换，把x域中图形变换到y域中去！

$Ax=b$变换后直线还是直线。
$x=\left[\begin{array}{ccccc}0& 1& 1& 0& 0\\ 0& 0& 1& 1& 0\end{array}\right]$为顶点在（0,0），（1,0），（1,1），（0,1）的单位方块！
这就是变换矩阵的行列式的意义！

$\left|A\right|$是变换后面积的变化

在几何里面，因为矩阵的变换是Ax,所以

$k\left[\begin{array}{c}3\\ 4\end{array}\right]\ne \left[\begin{array}{c}4\\ 5\end{array}\right]$
不能实现平移等线性变换，所以引入齐次坐标系！（增加一维）

$R=\left[\begin{array}{ccc}cos\theta & -sin\theta & 0\\ sin\theta & cos\theta & 0\\ 0& 0& 1\end{array}\right]$
(旋转是绕原点的)

$M=\left[\begin{array}{ccc}0& 0& a\\ 0& 0& b\\ 0& 0& 1\end{array}\right]$
先旋转后平移，是$R\ast M$,不是$R+M$

$Ax=b$在几何学上的应用

1. $Ax=y$表示向量空间中x组成的图形经变换A后变换为向量空间y中的图形
2. $Ax=y$也表示坐标变换，A中各列为y坐标的基向量，用这关系可进行正反坐标变换。

eigshow(A);

在matlab中，可显示二维向量x沿单位圆转动时，经A左乘后在y平面上的形状。
$x-y$共线时，$y=Ax=\lambda x$,$\lambda$为特征值，$x$为特征向量
在matlab中，求取特征值和特征向量为

[P,lambada]=eig(A);

QR分解的几何意义

QR分解可以看成分解出新的坐标系！
在matlab中，求取结果是

[Q,R]=qr(A);

$A=[v_1,v_2]=\left[\begin{array}{cc}-1& 6\\ 2& 8\end{array}\right]$

作qr分解：
$Q=\left[\begin{array}{cc}-0.4472& 0.8944\\ 0.8944& 0.4472\end{array}\right],R=\left[\begin{array}{cc}2.2361& 4.4721\\ 0& 8.9443\end{array}\right]$
从几何角度来看：

Q的第一列代表新成立的x坐标，第二列是垂直的y坐标！（即分解后的新坐标）