《矩阵论》学习笔记(四):4.2 矩阵的QR分解
文章目录
一. Givens矩阵与Givens变换
1.1. 概念与理解
- | Given矩阵与Given变换 |
---|---|
几何意义 | 描述:n维欧氏空间 R n R^n Rn中的旋转变换,旋转不改变向量模长 |
Givens矩阵(初等旋转矩阵): T i j / T i j ( c , s ) T_{ij}/ T_{ij}(c,s) Tij/Tij(c,s) | T i j = [ I c . . . s I − s . . . c I ] , T_{ij}= \left[\begin{array}{cccc} I& & & \\&c& ...&s& \\ & &I & \\ &-s& ...&c&\\ && & & I\end{array} \right] , Tij=⎣⎢⎢⎢⎢⎡Ic−s...I...scI⎦⎥⎥⎥⎥⎤,其中: c 2 + s 2 = 1 c^2+ s^2=1 c2+s2=1 |
T i j T_{ij} Tij的性质 | 1)
T
i
j
T_{ij}
Tij是正交矩阵 [ T i j ( c , s ) ] − 1 = [ T i j ( c , s ) ] T = [ T i j ( c , − s ) ] [T_{ij}(c,s)]^{-1}=[T_{ij}(c,s)]^T=[T_{ij}(c,-s)] [Tij(c,s)]−1=[Tij(c,s)]T=[Tij(c,−s)]; 2) d e t ( T i j ) = 1 det(T_{ij})=1 det(Tij)=1; 3) x ⃗ = ( a 1 , a 2 , . . . , a n ) , y ⃗ = T i j x ⃗ = ( b 1 , b 2 , . . . , b n ) , \vec x=(a_1,a_2,...,a_n),\vec y=T_{ij} \vec x=(b_1,b_2,...,b_n), x=(a1,a2,...,an),y=Tijx=(b1,b2,...,bn), 则: b i = c a i + s a j ; b j = − s a i + c a j ; b k = a k ( k ≠ i , j ) b_i=ca_i+sa_j;b_j=-sa_i+ca_j;b_k=a_k(k≠i,j) bi=cai+saj;bj=−sai+caj;bk=ak(k=i,j) |
Givens变换定理 | 任意 x ⃗ \vec x x总可以经过有限个Given矩阵的乘积 T T T,到某一方向下的投影, T x ⃗ = x 模 长 ∗ z ⃗ T\vec x=x模长*\vec z Tx=x模长∗z, z ⃗ \vec z z为单位列向量。 |
1.2. Givens矩阵求解方法
-Givens矩阵求解过程:p141
根据Givens变换定理: |
---|
> 题目:给定待求 x ⃗ = ( x 1 , x 2 , . . . , x n ) \vec x=(x_1,x_2,...,x_n) x=(x1,x2,...,xn)和单位方向向量 z ⃗ \vec z z,求Givens变换矩阵T。 |
> 求解:对
x
⃗
\vec x
x 重复操作- 将每个维度的分量逐一合并到第一维度上。 从而得到一系列Givens变换后的结果 T x ⃗ = x 1 2 + x 2 2 + . . . + x n 2 T\vec x=\sqrt[]{x_1^2+x_2^2+...+x_n^2} Tx=x12+x22+...+xn2. 其中, T = T 12 ∗ T 13 ∗ . . . ∗ T 1 n , ( i = 1 , j ∈ [ 2 , n ] ) T=T_{12}*T_{13}*...*T_{1n},(i=1,j∈[2,n]) T=T12∗T13∗...∗T1n,(i=1,j∈[2,n]) |
二. Householder矩阵与Householder变换
2.1. 概念与理解
- | Householder矩阵与Householder变换 |
---|---|
几何意义 | 描述:n维欧氏空间 R n R^n Rn中的反射变换 |
Householder矩阵 (初等反射矩阵) | H = I − 2 u ⃗ u ⃗ T H=I-2\vec u\vec u^T H=I−2uuT |
H H H的性质 | 1)
H
H
H是正交矩阵,
H
T
H
=
I
、
H
=
H
T
H^TH=I、H=H^T
HTH=I、H=HT; 2) d e t ( H ) = − 1 det(H)=-1 det(H)=−1; 3) y ⃗ = H x ⃗ = ( I − 2 u ⃗ u ⃗ T ) x ⃗ \vec y=H\vec x=(I-2\vec u\vec u^T) \vec x y=Hx=(I−2uuT)x |
Householder变换定理 | 任意 x ⃗ \vec x x总可以经过Householder矩阵 H H H,得到关于 z ⃗ \vec z z的正交向量 对称的向量, H x ⃗ = [ x ] z ⃗ , z ⃗ H\vec x=[x]\vec z,\vec z Hx=[x]z,z为单位列向量。 |
2.2. Householder矩阵求解方法
-Householder矩阵求解过程:p143
根据Householder变换定理: |
---|
> 题目:给定待求 x ⃗ = ( x 1 , x 2 , . . . , x n ) \vec x=(x_1,x_2,...,x_n) x=(x1,x2,...,xn)和单位方向向量 z ⃗ \vec z z,求Givens变换矩阵T。 |
> 求解: 1- 求 x ⃗ \vec x x模长; 2- 求与 z ⃗ \vec z z正交的 u ⃗ \vec u u的方向; 3- 求 u ⃗ \vec u u(单位向量:模长为1); 4- 求得 H = I − 2 u ⃗ u ⃗ T H=I-2\vec u\vec u^T H=I−2uuT. |
2.3. Givens变换与Householder变换的关系
- 初等旋转矩阵是两个初等反射矩阵的乘积。
[ d e t T = 1 , d e t H = − 1 , d e t T = 2 ∗ d e t H . detT=1,detH=-1,detT=2*detH. detT=1,detH=−1,detT=2∗detH.] - 反过来不成立,即:初等反射矩阵不能用若干个初等旋转矩阵表示。
三. 矩阵的QR分解
3.1. 概念与理解
- | 矩阵QR分解 要点汇总 |
---|---|
QR分解的前提 | 可逆 方阵 |
应用到的知识 | 正交矩阵的性质 |
QR分解的定义 | 对实可逆、方阵A,有:
A
=
Q
R
A=QR
A=QR,称作矩阵A的QR分解。 其中,Q是正交矩阵( Q T Q = Q Q T = I Q^TQ=QQ^T=I QTQ=QQT=I),R是可逆上三角矩阵。 |
- 存在性 | 若A满足可逆、方阵,则一定存在。 |
- 唯一性 | A的QR分解不唯一,但有紧密联系。 各种分解相差一个对角元素绝对值(模)全等于1的对角矩阵因子。 |
对任意矩阵 A m ∗ n A_{m*n} Am∗n,其QR分解一定存在,有:
- | QR分解的推论: |
---|---|
1. m=n | 方阵A分解成正交矩阵×上三角矩阵 |
推论 | 一般矩阵 A m × n A_{m×n} Am×n,只要满足列满秩,则存在QR分解 |
2. m>n | 矩阵A分解成列向量组标准正交的矩阵×上三角矩阵 |
3. m<n | 矩阵A分解成行向量组标准正交的矩阵×上三角矩阵 |
3.2. 矩阵的QR分解方法
矩阵的QR分解方法 | 具体步骤 |
---|---|
Schmidt正交化方法 | 1)求矩阵A列向量的标准正交向量; 2)将矩阵A表示成 A = Q R A=QR A=QR的形式; 3)求得正交矩阵Q和下三角阵R。 |
Given变换方法 | A左乘有限个初等旋转变换矩阵到可逆上三角阵R。 1) R = T ∗ A R=T*A R=T∗A[R的第i行为 T i A ( i − 1 ) T_iA^{(i-1)} TiA(i−1)的第一行(i≤n-1),R的第n行最后一个元素= T n − 1 A ( n − 2 ) T_{n-1}A^{(n-2)} Tn−1A(n−2)的最后一个元素]; 2) Q = T − 1 = T T Q=T^{-1}=T^T Q=T−1=TT. -若A为不可逆矩阵, b ⃗ \vec b b中出现0,则跳过这一步进行下一步,得到的R也是不可逆的。 |
Householder变换方法 | A左乘有限个初等反射变换矩阵到可逆上三角阵。 1) R = S ∗ A R=S*A R=S∗A[R的第i行为 S i A ( i − 1 ) S_iA^{(i-1)} SiA(i−1)的第一行(i≤n-1),R的第n行最后一个元素= S n − 1 A ( n − 2 ) S_{n-1}A^{(n-2)} Sn−1A(n−2)的最后一个元素]; 2) Q = S − 1 = S T Q=S^{-1}=S^T Q=S−1=ST. -若A为不可逆矩阵, b ⃗ \vec b b中出现0,则跳过这一步进行下一步,得到的R也是不可逆的。 |
- 对用Given/Householder变换方法求QR分解的含义:
借助矩阵QR分解,可将一般方阵的求逆计算转化为三角矩阵的求逆运算。
四. LU分解 VS QR分解
对于可逆方阵A的存在性与唯一性,有:
LU/三角分解 | 1- 若满足n个顺序主子式≠0 ⇔三角分解存在且唯一 [充要条件]。 2- 若三角分解不存在,即不满足n个顺序主子式≠0⇔存在P使PA的所有顺序主子式≠0。即A虽不存在,PA存在LU分解。 |
---|---|
QR分解 | 1- 存在性:一定存在。 2-唯一性:A的QR分解不唯一,但有紧密联系。 各种分解相差一个对角元素绝对值(模)全等于1的对角矩阵因子。 |