【矩阵论】2. 矩阵分解——正规分解——正规阵

矩阵论的所有文章，主要内容参考北航赵迪老师的课件

[注]由于矩阵论对计算机比较重要，所以选修了这门课，但不是专业搞数学的，所以存在很多口语化描述，而且对很多东西理解不是很正确与透彻，欢迎大家指正。我可能间歇性忙，但有空一定会回复修改的。

矩阵论
1. 准备知识——复数域上矩阵,Hermite变换)
1.准备知识——复数域上的内积域正交阵
1.准备知识——Hermite阵，二次型，矩阵合同，正定阵，幂0阵，幂等阵，矩阵的秩
2. 矩阵分解——SVD准备知识——奇异值
2. 矩阵分解——SVD
2. 矩阵分解——QR分解
2. 矩阵分解——正定阵分解
2. 矩阵分解——单阵谱分解
2. 矩阵分解——正规分解——正规阵
2. 矩阵分解——正规谱分解
2. 矩阵分解——高低分解
3. 矩阵函数——常见解析函数
3. 矩阵函数——谱公式,幂0与泰勒计算矩阵函数
3. 矩阵函数——矩阵函数求导
4. 矩阵运算——观察法求矩阵特征值特征向量
4. 矩阵运算——张量积
4. 矩阵运算——矩阵拉直
4.矩阵运算——广义逆——加号逆定义性质与特殊矩阵的加号逆
4. 矩阵运算——广义逆——加号逆的计算
4. 矩阵运算——广义逆——加号逆应用
4. 矩阵运算——广义逆——减号逆
5. 线性空间与线性变换——线性空间
5. 线性空间与线性变换——生成子空间
5. 线性空间与线性变换——线性映射与自然基分解,线性变换
6. 正规方程与矩阵方程求解
7. 范数理论——基本概念——向量范数与矩阵范数
7.范数理论——基本概念——矩阵范数生成向量范数&谱范不等式
7. 矩阵理论——算子范数
7.范数理论——范数估计——许尔估计&谱估计
7. 范数理论——非负/正矩阵
8. 常用矩阵总结——秩1矩阵，优阵(单位正交阵)，Hermite阵
8. 常用矩阵总结——镜面阵，正定阵
8. 常用矩阵总结——单阵，正规阵，幂0阵，幂等阵，循环阵

---

矩阵分解可以得到简化的乘积矩阵，可以简化后续的计算与处理度

2.4.3 正规阵

a. 定义

若方阵A满足 $A^{H}A=A{A}^H$ ，则A为正规阵

正规条件：$A^{H}A=A{A}^H$

b. 正规阵特点

1. 正规阵必为方阵 ($A^{H}A与A{A}^H$ 的阶数相等，即行列数相等)
2. $A正规⟺A^H正规$ ，$A不正规⟺A^H不正规$

c. 常见正规阵

对角阵

对角阵 $A=\left(\begin{array}{ccc}{a}_1& & \\ & \ddots & \\ & & a_n\end{array}\right)$ 必正规

三角正规阵必对角

若三角阵 $B=\left(\begin{array}{cccc}{b}_1& b_{12}& \cdots & b_{1n}\\ & b_2& \cdots & b_{2n}\\ & & \ddots & \\ & & & b_n\end{array}\right)$ 正规，则 $B=\left(\begin{array}{cccc}{b}_1& & & \\ & b_2& & \\ & & \ddots & \\ & & & b_n\end{array}\right)$ 为对角形

证明：严格三角阵不是正规阵
$$\begin{array}{rl}& 设B=\left(\begin{array}{ccc}{b}_1& b_{12}& b_{13}\\ & b_2& b_{23}\\ & & b_3\end{array}\right)为正规阵，B^H=\left(\begin{array}{ccc}\overline{b_1}& & \\ \overline{b_{12}}& \overline{b_2}& \\ \overline{b_{13}}& \overline{b_{23}}& \overline{b_3}\end{array}\right)\\ & B{B}^H=\left(\begin{array}{ccc}{b}_1& b_{12}& b_{13}\\ & b_2& b_{23}\\ & & b_3\end{array}\right)\left(\begin{array}{ccc}\overline{b_1}& & \\ \overline{b_{12}}& \overline{b_2}& \\ \overline{b_{13}}& \overline{b_{23}}& \overline{b_3}\end{array}\right)\\ & =\left(\begin{array}{ccc}|b_1{|}^2+|b_{12}{|}^2+|b_{13}{|}^2& & \\ & |b_{23}{|}^2+|b_2{|}^2& \\ & & |b_3{|}^2\end{array}\right)\\ & B^{H}B=\left(\begin{array}{ccc}\overline{b_1}& & \\ \overline{b_{12}}& \overline{b_2}& \\ \overline{b_{13}}& \overline{b_{23}}& \overline{b_3}\end{array}\right)\left(\begin{array}{ccc}{b}_1& b_{12}& b_{13}\\ & b_2& b_{23}\\ & & b_3\end{array}\right)\\ & =\left(\begin{array}{ccc}|b_1{|}^2& & \\ & |b_{12}{|}^2+|b_2{|}^2& \\ & & |b_{13}{|}^2+|b_{23}{|}^2+|b_3{|}^2\end{array}\right),\\ & 若B满足正规阵，则B^{H}B=B{B}^H,即\\ & \Rightarrow \{\begin{array}{r}|b_1{|}^2=|b_1{|}^2+|b_{12}{|}^2+|b_{13}{|}^2\\ |b_{12}{|}^2+|b_2{|}^2=|b_{23}{|}^2+|b_2{|}^2\\ |b_3{|}^2=|b_{13}{|}^2+|b_{23}{|}^2+|b_3{|}^2\end{array}\Rightarrow \{\begin{array}{r}|b_{12}{|}^2=0\\ |b_{13}{|}^2=0\\ |b_{23}{|}^2=0\end{array}\\ & \Rightarrow b_{12}=b_{13}=b_{23}=0，即B=\left(\begin{array}{ccc}{b}_1& & \\ & b_2& \\ & & b_3\end{array}\right)为对角形\end{array}$$

若分块阵 $A=\left(\begin{array}{cc}B& C\\ 0& D\end{array}\right)$ 正规，则 $C=0$ ，且 $B，D$ 都正规，即 $A=\left(\begin{array}{cc}B& 0\\ 0& D\end{array}\right)$
$$\begin{array}{rl}& A^{H}A=\left(\begin{array}{cc}{B}^H& 0\\ C^H& D^H\end{array}\right)\left(\begin{array}{cc}B& C\\ 0& D\end{array}\right)=\left(\begin{array}{cc}{B}^{H}B& B^{H}C\\ C^{H}B& C^{H}C+D^{H}D\end{array}\right)\\ & A{A}^H=\left(\begin{array}{cc}B& C\\ 0& D\end{array}\right)\left(\begin{array}{cc}{B}^H& 0\\ C^H& D^H\end{array}\right)=\left(\begin{array}{cc}B{B}^H+C{C}^H& C{D}^H\\ D{C}^H& C^{H}C+D{D}^H\end{array}\right)\\ & 由于tr(A^{H}A)=tr(A{A}^H),\therefore tr(C{C}^H)=0,\\ & 利用迹公式可写tr(C{C}^H)=\sum |c_{i,j}{|}^2=0，其中C=(c_{i,j})，C为零阵\\ & 且B{B}^H=B^{H}B,D{D}^H=D^{H}D\end{array}$$
由证明过程可见，严格三角阵为非正规阵

H阵与斜H阵

Hermite阵与斜Hermite阵必正规
$$\begin{array}{r}若A是Hermite阵，则A^H=A，A^{H}A=AA=A{A}^H\end{array}$$

• 实对称阵与反对称阵都是正规阵

优阵

优阵必正规（实正交阵）
$$\begin{array}{r}{A}^{H}A=I=A{A}^H\end{array}$$

e. 正规阵的构造方法

倍数法则

若 $A$ 正规，取倍数 $k$ ，则 $kA$ 为正规阵

$$\begin{array}{r}\left(\begin{array}{ccc}0& i& i\\ i& 0& i\\ i& i& i\end{array}\right)=i\left(\begin{array}{ccc}0& 1& 1\\ 1& 0& 1\\ 1& 1& 1\end{array}\right),\left(\begin{array}{cc}i& i\\ i& 2i\end{array}\right)=i\left(\begin{array}{cc}1& 1\\ 1& 2\end{array}\right)都是正规阵\\ A=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}i& 1\\ 1& i\end{array}\right)为正规U阵，则\sqrt{2}A=\left(\begin{array}{cc}i& 1\\ 1& i\end{array}\right)\end{array}$$

平移法则

若 $A$ 正规，则 $A\pm cI$ 正规

$$\begin{array}{rl}若A是正规阵，则(A\pm cI{)}^H(A\pm cI)& =(A^H\pm cI)(A\pm cI)\\ & =A^{H}A\pm c{A}^H\pm cA+c^{2}I\\ & =A{A}^H\pm cA\pm c{A}^H+c^{2}I\\ & =(A\pm cI)(A^H\pm cI)\end{array}$$

优相似

若 $A$ 正规，则 $Q^{H}AQ$ 也正规，其中 $Q$ 为优阵($Q^H=Q^{-1}$)，即正规阵的优相似阵一定正规

证明：
$$\begin{array}{rl}& \because A^{H}A=A{A}^H，且存在U阵Q，使得Q^{H}AQ=B，即证B^{H}B=B{B}^H\\ & B^{H}B=(Q^{H}AQ{)}^H(Q^{H}AQ)=Q^H{A}^{H}Q{Q}^{H}AQ=Q^H{A}^{H}AQ\\ & B{B}^H=(Q^{H}AQ)(QA{Q}^H{)}^H=Q^{H}AQ{Q}^H{A}^{H}Q=Q^{H}A{A}^{H}Q\stackrel{A{A}^H=A^{H}A}{=}{Q}^H{A}^{H}AQ\\ & \therefore B^{H}B=B{B}^H,B为正规阵\end{array}$$

多项式正规

若 A 正规，则 $f(A)={\lambda }_{0}I+{\lambda }_{1}A+{\lambda }_2{A}^2+\cdots +{\lambda }_n{A}^K$ 正规

f. 正规阵与其H阵的特征向量相同

若A正规，则 $A^H$ 与 A 有相同的向量

$$\begin{array}{r}若A正规，且AX=\lambda X，则A^{H}X=\overline{\lambda }X\end{array}$$

证明
只需证 ( A H − λ ‾ I ) X = 0 , 即 ( A − λ I ) H X = 0 , 由 ( A − λ I ) X = 0 ∣ A − λ I ∣ 2 = 0 ⇒ ( ( A − λ I ) X ) H ( A − λ I ) X = 0 ⇒ X H ( A − λ I ) H ( A − λ I ) X = 0 由于 A − λ I 正规， ( A − λ I ) H ( A − λ I ) = ( A − λ I ) ( A − λ I ) H 即有 X H ( ( A − λ I ) H ) H ( A − λ I ) H X = 0 ⇒ ( ( A − λ I ) H X ) H ( A − λ I ) H X = ∣ ( A − λ I ) H X ∣ 2 = 0 ⇒ ( A − λ I ) H X = 0 ⇒ ( A H − λ ‾ I ) X = 0 ⇒ A H X = λ ‾ X 故结论得证，若 A 正规，则 A X = λ X    ⟺    A H X = λ ‾ X 其中，若 λ ( A ) = { λ 1 , ⋯   , λ n } , 则 λ ( A H ) = { λ 1 ‾ , ⋯   , λ n ‾ } \begin{aligned} &只需证 (A^H-\overline{\lambda}I)X=0,即(A-\lambda I)^HX=0,由(A-\lambda I)X=0\\ &\vert A-\lambda I \vert^2=0\Rightarrow ((A-\lambda I)X)^H(A-\lambda I)X=0\Rightarrow X^H(A-\lambda I)^H(A-\lambda I)X=0\\ &由于A-\lambda I 正规，(A-\lambda I)^H(A-\lambda I)=(A-\lambda I)(A-\lambda I)^H\\ &即有 X^H((A-\lambda I)^H)^H(A-\lambda I)^HX=0\\ &\Rightarrow ((A-\lambda I)^HX)^H(A-\lambda I)^HX=\vert (A-\lambda I)^HX\vert^2=0\\ &\Rightarrow (A-\lambda I)^HX=0\Rightarrow (A^H-\overline{\lambda}I)X=0\Rightarrow A^HX=\overline{\lambda}X\\ &故结论得证，若A正规，则AX=\lambda X\iff A^HX=\overline{\lambda}X\\ &其中，若\lambda(A)=\{\lambda_1,\cdots,\lambda_n\},则\lambda(A^H)=\{\overline{\lambda_1},\cdots,\overline{\lambda_n}\} \end{aligned} ​只需证(AH−λI)X=0,即(A−λI)HX=0,由(A−λI)X=0∣A−λI∣2=0⇒((A−λI)X)H(A−λI)X=0⇒XH(A−λI)H(A−λI)X=0由于A−λI正规，(A−λI)H(A−λI)=(A−λI)(A−λI)H即有XH((A−λI)H)H(A−λI)HX=0⇒((A−λI)HX)H(A−λI)HX=∣(A−λI)HX∣2=0⇒(A−λI)HX=0⇒(AH−λI)X=0⇒AHX=λX故结论得证，若A正规，则AX=λX⟺AHX=λX其中，若λ(A)={λ1​,⋯,λn​},则λ(AH)={λ1​​,⋯,λn​​}​

2.4.4 正规分解定理

$正规阵\subset 单阵$

(相似对角化)若 $A=A_{n\times n}$ 正规，则存在U阵Q，使 $Q^{H}AQ=\Lambda =\left(\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right)$

证明
$$\begin{array}{rl}& 设A=A_{n\times n}正规，由U相似定理，Q^{H}AQ正规，由许尔公式，存在U阵Q，使\\ & Q^{H}AQ=D=\left(\begin{array}{ccc}{\lambda }_1& & \ast \\ & \ddots & \\ & & {\lambda }_n\end{array}\right)为上三角阵\\ & D=Q^{H}AQ为正规三角阵，由"正规三角定理"可知D为对角阵\\ & 即Q^{-1}AQ=D=\left(\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right)成立\end{array}$$

a. 正规阵A恰有n个正交特向

$$\begin{array}{rl}& 由Q^{-1}AQ=D=\left(\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right)\Rightarrow AQ=QD\\ & \Rightarrow A\left(q_1,\cdots ,q_n\right)=\left(q_1,\cdots ,q_n\right)D\\ & \Rightarrow \left(A{q}_1,\cdots ,A{q}_n\right)=\left({\lambda }_1{q}_1,\cdots ,{\lambda }_n{q}_n\right)\\ & U阵Q为A的特征向量组成的矩阵，且n个特征向量相互正交，q_1\perp \cdots \perp q_n\end{array}$$

b. 正规分解方法

1. 先令特征根 ${\lambda }_1,\cdots ,{\lambda }_n$ ，求正交特征向量 $X_1\perp \cdots \perp X_n$

2. 令U阵 $Q=\left(q_1,\cdots ,q_n\right)=\left(\frac{X_1}{|X_1|},\cdots ,\frac{X_n}{|X_n|}\right)$

   则有U相似阵 $Q^{H}AQ=D=\left(\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right)$ 为对角阵

3. 可写正规分解 $A=QD{Q}^H$

定义法

对矩阵 $A=\left(\begin{array}{cc}1& -1\\ 1& 0\end{array}\right)$ 正规分解
$$\begin{array}{rl}& A=\left(\begin{array}{cc}1& -1\\ 1& 0\end{array}\right)为正规阵，计算可得{\lambda }_1=i,{\lambda }_2=-i，X_1=\left(\begin{array}{c}i\\ 1\end{array}\right),X_2=\left(\begin{array}{c}1\\ i\end{array}\right),\\ & 且X_1与X_2为不同特征值的特征向量，所以X_1\perp X_2\\ & 令U阵Q=\left(\begin{array}{c}\frac{X_1}{|X_1|},\frac{X_2}{|X_2|}\end{array}\right)=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}i& 1\\ 1& i\end{array}\right),可得Q^{H}AQ=D=\left(\begin{array}{cc}i& \\ & -i\end{array}\right)\\ & 则有正规分解A=QD{Q}^H=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}i& 1\\ 1& i\end{array}\right)\left(\begin{array}{cc}i& \\ & -i\end{array}\right)\frac{1}{\sqrt{2}}\left(\begin{array}{cc}-i& 1\\ 1& -i\end{array}\right)\end{array}$$

平移法

令 B = ( 1 − 1 1 1 ) = I + A = ( 1 1 ) + ( 0 − 1 1 0 ) , 其中 A 为正规 U 阵 λ ( B ) = { λ 1 , λ 2 } = { 1 + i , 1 − i } , X 1 = ( i 1 ) , X 2 = ( 1 i ) , 得 U 阵 Q = ( X 1 ∣ X 1 ∣ , X 2 ∣ X 2 ∣ ) = 1 2 ( i 1 1 i ) ，故有正规分解 A = Q D Q H = 1 2 ( i 1 1 i ) ( 1 + i 1 − i ) 1 2 ( − i 1 1 − i ) \begin{aligned} &令B=\left( \begin{matrix} 1&-1\\ 1&1 \end{matrix} \right)=I+A=\left( \begin{matrix} 1&\\ &1 \end{matrix} \right)+\left( \begin{matrix} 0&-1\\ 1&0 \end{matrix} \right),其中A为正规U阵\\ &\lambda(B)=\{\lambda_1,\lambda_2\}=\{1+i,1-i\},X_1=\left( \begin{matrix} i\\1 \end{matrix} \right),X_2=\left( \begin{matrix} 1\\i \end{matrix} \right),\\ &得U阵Q=\left(\frac{X_1}{\vert X_1\vert},\frac{X_2}{\vert X_2\vert}\right)=\frac{1}{\sqrt{2}}\left( \begin{matrix} i&1\\ 1&i \end{matrix} \right)，故有正规分解A=QDQ^H\\ &=\frac{1}{\sqrt{2}}\left( \begin{matrix} i&1\\ 1&i \end{matrix} \right)\left( \begin{matrix} 1+i&\\ &1-i \end{matrix} \right)\frac{1}{\sqrt{2}}\left( \begin{matrix} -i&1\\ 1&-i \end{matrix} \right) \end{aligned} ​令B=(11​−11​)=I+A=(1​1​)+(01​−10​),其中A为正规U阵λ(B)={λ1​,λ2​}={1+i,1−i},X1​=(i1​),X2​=(1i​),得U阵Q=(∣X1​∣X1​​,∣X2​∣X2​​)=2 ​1​(i1​1i​)，故有正规分解A=QDQH=2 ​1​(i1​1i​)(1+i​1−i​)2 ​1​(−i1​1−i​)​