高斯消去法
消元法的基本思想:利用第一个方程消去后面n-1个方程中的第一个未知数,再利用第二个方程消去后面n-2个方程的第二个未知数,以此类推,直到把系数矩阵变成上三角阵的形式
然后从最后一个方程开始,解出,代入前一个方程解出,以此类推。
顺序消元和回代
算法:Gauss顺序消元算法:
计算复杂度
顺序消元能进行至第k步充要条件
定理:高斯顺序消元法能进行到第k步前面k个顺序主子式都不为零
矩阵的三角分解
由消元过程的矩阵形式及上述定理,可得到矩阵三角分解定理
存在性:高斯顺序消元已给出
唯一性:归纳+反证法
三角分解常用语需解多个右端向量方程组情况。解一次三角分解,多次回代,回代复杂度低于分解复杂度
顺序消元法存在问题
列主元高斯消去法
列主元高斯消去法算法
用矩阵语言来描述上述算法,可写成:
证明
Gauss-Jordan消去法
消元时同时消去对角线上下元素,把A化成对角阵,可以计算,但是计算量会增大到
矩阵三角分解法——Gauss消去法的变形
Doolittle三角分解(LU,LR分解)
利用矩阵的三角分解来求解,假设A的顺序主子式都不为零,将A分解为,再解,分为两步:
选主元LU分解
对称阵的三角分解
证明:已经证过A可唯一分解为LU +
什么样的对称阵有Cholesky分解
非正定-->D矩阵对角元存在负值,无法开根
使用Cholesky分解计算量:
需不需要选主元?
算法缺陷
——需要计算很多平方根,平方根的计算远大于乘除法。
改进:用分解来计算
带状矩阵的三角分解法
证明:归纳法