文章目录
- 1. 矩阵A分解
-
- 1.1 A = L U A=LU A=LU
- 1.2 A = Q R A=QR A=QR
- 1.3 A = X Λ X − 1 A=X\Lambda X^{-1} A=XΛX−1
- 1.4 A = Q Λ Q T A=Q\Lambda Q^T A=QΛQT
- 1.5 A = Q S A=QS A=QS
- 1.6 A = U Σ V T , r a n k ( A ) = m A=U\Sigma V^T,rank(A)=m A=UΣVT,rank(A)=m
- 1.7 A = U Σ V T , r a n k ( A ) = r A=U\Sigma V^T,rank(A)=r A=UΣVT,rank(A)=r
- 2. 拉格朗日乘子法求最小值
- 3. 瑞利商的思考
1. 矩阵A分解
对于矩阵A来说,我们有常见矩阵分解:
A = L U , A = Q R , A = X Λ X − 1 , A = Q Λ Q T ; A = Q S , A = S V D \begin{equation} A=LU,A=QR,A=X\Lambda X^{-1},A=Q\Lambda Q^T;A=QS,A=SVD \end{equation} A=LU,A=QR,A=XΛX−1,A=QΛQT;A=QS,A=SVD
1.1 A = L U A=LU A=LU
我们矩阵A可以进行LU分解,那么L表示下三角矩阵,U表示上三角矩阵,对于L上三角矩阵来说;举例如下:
A = [ a 11 a 12 a 13 a 21 a 22 a 23 a 31 a 32 a 33 ] = [ l 11 0 0 l 21 l 22 0 l 31 l 32 l 33 ] [ u 11 u 12 u 13 0 u 22 u 23 0 0 u 33 ] \begin{equation} A=\begin{bmatrix} a_{11}&a_{12}&a_{13}\\\\ a_{21}&a_{22}&a_{23}\\\\ a_{31}&a_{32}&a_{33} \end{bmatrix}=\begin{bmatrix} l_{11}&0&0\\\\ l_{21}&l_{22}&0\\\\ l_{31}&l_{32}&l_{33} \end{bmatrix}\begin{bmatrix} u_{11}&u_{12}&u_{13}\\\\ 0&u_{22}&u_{23}\\\\ 0&0&u_{33} \end{bmatrix} \end{equation} A=
a11a21a31a12a22a32a13a23a33
=
l11l21l310l22l3200l33
u1100u12u220u13u23u33
- L的第一行只有一个数, l 11 l_{11} l11非零,自由变量数为0;
- L的第二行有两个数 l 21 , l 22 l_{21},l_{22} l21,l22,其中 l 21 l_{21} l21因为 l 11 l_{11} l11确定后,自由变量数只剩 l 22 l_{22} l22,1个
- 同理,第 i 行 自由变量数为 i − 1 i-1 i−1;
- 所以L一共有
L n = 0 + 1 + 2 + ⋯ + n − 1 = 1 2 n ( n − 1 ) \begin{equation} L_n=0+1+2+\cdots+n-1=\frac{1}{2}n(n-1) \end{equation} Ln=0+1+2+⋯+n−1=21n(n−1) - 对于U 来说,第1行有自由变量三个,第二行有两个,则可得:
U n = n + ( n − 1 ) ⋯ + 1 = 1 2 n ( n + 1 ) \begin{equation} U_n=n+(n-1)\cdots+1=\frac{1}{2}n(n+1) \end{equation} Un=n+(n−1)⋯+1=21n(n+1) - 综上所述,对于A=LU分解来说,自由变量总数为
A n = L n + U n = 1 2 n ( n − 1 ) + 1 2 n ( n + 1 ) = n 2 \begin{equation} A_n=L_n+U_n=\frac{1}{2}n(n-1)+\frac{1}{2}n(n+1)=n^2 \end{equation} An=Ln+Un=21n(n−1)+21n(n+1)=n2
1.2 A = Q R A=QR A=QR
当我们对矩阵A进行QR分解后,Q是一个单位正交矩阵,R是一个上三角矩阵;
我们知道Q是有n个单位正交向量 q 1 , q 2 , ⋯ , q n q_1,q_2,\cdots,q_n q1,q2,⋯,qn组成,每个 q i q_i qi有n个变量;
- 第一个向量 q 1 q_1 q1约束条件只有单位长度1,所以变量数为 n − 1 n-1 n−1
- 第一个向量 q 2 q_2 q2约束条件单位长度1和与 q 1 q_1 q1正交,共两个约束条件,所以变量数为 n − 2 n-2 n−2
- 同理,第 i 个向量 q i q_i qi 的约束条件数为 i i i,自由变量数为 n − i n-i n−i
- 那么Q变量总共的自由变量是
Q n = ( n − 1 ) + ( n − 2 ) ⋯ + 1 = 1 2 n ( n − 1 ) \begin{equation} Q_n=(n-1)+(n-2)\cdots+1=\frac{1}{2}n(n-1) \end{equation} Qn=(n−1)