数值分析 第二章 解线性方程组的直接方法

解方程组方法

对于线性方程组

$$y=Ax+b$$ 常有如下几种求解方法。其中， $A$为系数矩阵，$x$为解向量。

直接三角分解法（Dolittle分解法）

1. 前提：系数矩阵$A$的各阶顺序主子式不为0.
2. 公式：以下$L$表示单位下三角矩阵，$U$表示一个上三角矩阵。
   $$A=LU,Ly=b,Ux=y$$

平方根法（Cholesky分解法）

1. 前提：系数矩阵$A$为对称正定矩阵.
2. 公式：以下$G$表示下三角矩阵。
   $$A=GG^T,Gy=b,G^Tx=y$$

追赶法（Crout分解法）

1. 前提：系数矩阵$A$的各阶顺序主子式不为0.
2. 公式：以下$T$表示下三角矩阵，$M$表示一个单位上三角矩阵。
   $$A=TM,Ty=b,Mx=y$$

范数

概念

范数是一种对向量和矩阵的“大小”的度量尺度。

向量范数

定义2.1 向量范数

设$\left \| \cdot \right\|$是向量空间$R^n$上的实值函数，且满足以下条件：
1. 非负性：对任何向量$x\in R^n$,

$$\left \| x \right\| \geqslant0,\left \| x \right\|=0\Leftrightarrow x=0$$
2. 齐次性：对任何实数 $\alpha$和向量 $x\in R^n$, $$\left\| \alpha x \right\|=\left | \alpha \right | \left \| x \right \|$$
3. 三角不等式：对任何向量 $x,y\in R^n$, $$\left \| x + y \right \| \leqslant \left \| x \right \| + \left \| y \right \|$$
则称 $\left \| \cdot \right\|$是向量空间 $R^n$上的范数， $\left \| x \right\|$为 向量$x$的范数。

常用的向量范数

$$\textbf{向量1-范数：}\left \| x \right\|_1=\sum_{i=1}^{n} \left | x_i \right |$$
$$\textbf{向量2-范数：}\left \| x \right\|_2=\sqrt{\sum_{i=1}^{n}x_i^2}$$
$$\textbf{向量}\infty\textbf{ -范数：}\left \| x \right\|_\infty=\max _{1\leqslant i \leqslant n}\left | x_i \right |$$

矩阵范数

矩阵范数是反映矩阵“大小”的一种量度。

定义2.2 矩阵范数

设$\left \| \cdot \right\|$是以$n$阶矩阵为自变量的实值函数，且满足以下条件：
1. 非负性

$$\left \| A \right \| \geqslant 0, 且\left \| A \right \| = 0 \Leftrightarrow A=0$$
2. 齐次性

$$\left \| \alpha A \right \|=\left | \alpha \right | \left \| A \right \|, \alpha \in R$$
3. 三角不等式
$$和：\left \| A+B \right \| \leqslant \left \| A \right \| + \left \| B \right \|$$
$$积：\left \| AB \right \| \leqslant \left \| A \right \| \left \| B \right \|$$
则称$\left \| A \right\|$为矩阵$A$的范数。

常用的向量范数

设$n$阶矩阵$A=(a_{ij})$，常用的矩阵范数有：

$$\textbf{矩阵1-范数（列范数）：}\left \| A \right\|_1=\max_{1\leqslant j \leqslant n} \sum_{i=1}^{n} \left | a_{ij} \right |$$
$$\textbf{矩阵2-范数（谱范数）：}\left \| A \right\|_2=\sqrt{\max \lambda(A^TA)}$$
$$\textbf{矩阵}\infty\textbf{-范数（行范数）：}\left \| A \right\|_\infty=\max _{1\leqslant i \leqslant n}\sum_{j=1}^n\left | a_{ij} \right |$$

谱半径

定义2.3 谱半径

设$n$阶矩阵$A$的$n$个特征值分别为$\lambda_1,\lambda_2,...\lambda_n.$称

$$\rho(A)=\max_{1\leqslant i \leqslant n}\left | \lambda_i \right |$$
为矩阵$A$的谱半径。

性质

$$\rho(A) \leqslant \left \| A \right \|$$

条件数

概念

由原始数据误差所引起的方程组解的相对误差是否可控制，取决于量$\left \|A\right \| \left \| A^{-1} \right \|$的大小，若其值很大，原始数据的误差对解的影响就可能很大；若它较小，这种影响也就较小.这个量被称为方程组$Ax=b$或矩阵$A$的条件数。记为

$$Cond(A)=\left \|A\right \| \left \| A^{-1} \right \|$$ .通常称条件数过大的方程组为病态方程组，相应的系数矩阵称为病态矩阵。常用的条件数有

$$Cond_p(A)=\left \|A\right \|_p \left \| A^{-1} \right \|_p,p=1,2,\infty$$ 当$A$为对称矩阵时，有 $$Cond_2(A)=\frac{\left | \lambda_1 \right |}{\left | \lambda_n \right |},\lambda_1和\lambda_n分别为A按模最大和最小的特征值$$