谱分解学习

正规矩阵

设$A$是复数域上的$n$阶方阵，如果有
$$A{A}^H=A^{H}A$$
则称$A$为正规矩阵
如果$A$是实属域上的$n$阶方阵，且有
$$A{A}^T=A^{T}A$$
则称$A$为实正规矩阵

舒尔(Schur)定理

任何一个$n$阶矩阵都酉相似与一个上三角矩阵，即存在一个$n$阶酉矩阵$U$和一个上三角矩阵$R$，使得
$$U^{H}AU=T$$
其中$T$的主对角元素是$A$的特征值
证明：
懒了，和之前证实对称矩阵必可相似对角化差不多

酉相似对角化充要条件

设$A\in C^{n\times n}$,则$A$酉相似对角化的充要条件是$A$是正规矩阵

证明：
充分性:
根据舒尔定理，存在酉矩阵$U$,使得$U^{H}AU=T$为上三角矩阵，且其对角元素是$A$的特征值,于是有
$$\begin{array}{rl}T{T}^H& =(U^{H}AU)(U^{H}AU{)}^H\\ & =U^{H}AU{U}^H{A}^{H}U\\ & =U^{H}A{A}^{H}U\\ & =U^H{A}^{H}AU\\ & =U^H{A}^{H}U{U}^{H}AU\\ & =(U^{H}AU{)}^H(U^{H}AU)\\ & =T^{H}T\end{array}$$
$(T{T}^H{)}_{ii}={\sum }_{j=i}^n{\left|t_{ij}\right|}^2,(T^{H}T{)}_{ii}={\sum }_{j=1}^i{\left|t_{ji}\right|}^2$
因为
$$(T{T}^H{)}_{ii}=(T^{H}T{)}_{ii}$$
所以$t_{ij}=0(i\ne j)$
所以$T$是一个对角矩阵
所以
$$U^{H}AU=diag(t_{11},\cdots ,t_{nn})$$

必要性：
设$A$酉相似于对角矩阵$\Lambda$
$$U^{H}AU=\Lambda =diag({\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n)$$
$${\Lambda }^H=diag({\overline{\lambda }}_1,\cdots ,{\overline{\lambda }}_n)$$

对角矩阵是可交换的,即
$$\begin{array}{rl}\Lambda {\Lambda }^H& ={\Lambda }^H\Lambda \\ U^{H}A{A}^{H}U& =U^{H}AAU\\ A{A}^H& =A^{H}A\end{array}$$

推论

$A$是正规矩阵，若$A$是三角矩阵，则$A$是对角矩阵

定理1

设$A\in {\mathbb{C}}^{n\times n}$，则$A$为正规矩阵$\iff$$A$有$n$个两两正交的单位特征向量

推论

正规矩阵属于不同特征值的特征向量两两正交

定理2

设$A\in {\mathbb{C}}^{n\times n}$,${\lambda }_1,\cdots ,{\lambda }_n$为$A$的特征值，则
（1）舒尔不等式：${\sum }_{i=1}^n{\left|{\lambda }_i\right|}^2\le {\sum }_{i,j=1}^n{\left|a_{ij}\right|}^2$
（2）$A$是正规矩阵$\iff {\sum }_{i=1}^n{\left|{\lambda }_i\right|}^2={\sum }_{i,j=1}^n{\left|a_{ij}\right|}^2$
证明：
（1）
由舒尔定理
$U^{H}AU=B$为上三角矩阵，$b_{ii}={\lambda }_i(i=1,2,\cdots ,n)$
由
$$U^{H}A{A}^{H}U=B{B}^H$$
因为酉相似，所以迹相等
$$\sum _{i=1}^n{\left|{\lambda }_i\right|}^2=\sum _{i=1}^n{\left|b_{ii}\right|}^2\le \sum _{i,j=1}^n{\left|b_{ij}\right|}^2=\sum _{i,j=1}^n{\left|a_{ij}\right|}^2$$
（2）
$A$是正规矩阵，所以可以酉相似对角化，所以$b_{ij}=0(i\ne 0)$
所以成立

正规矩阵的谱分解

设$A$是正规矩阵,则存在酉矩阵$U$使得$U^{H}AU=diag({\lambda }_1,\cdots ,{\lambda }_n)$
$$A=Udiag({\lambda }_1,\cdots ,{\lambda }_n)U^H$$
令$U=({\alpha }_1,\cdots ,{\alpha }_n)$,则
$$\begin{array}{rl}A& =({\alpha }_1,\cdots ,{\alpha }_n)diag({\lambda }_1,\cdots ,{\lambda }_n)\left(\begin{array}{c}{\alpha }_1^H\\ ⋮\\ {\alpha }_n\end{array}\right)\\ & ={\lambda }_1{\alpha }_1{\alpha }_1^H+\cdots +{\lambda }_n{\alpha }_n{\alpha }_n^H\end{array}$$
其中${\lambda }_1,\cdots ,{\lambda }_n$为$A$的特征值，${\alpha }_1,\cdots ,{\alpha }_n$为其对应的两两正交的单位特征向量
故称为正规矩阵$A$的谱分解或特征（值）分解

如果把系数相同的放在一起（0特征值对应的项去掉），然后把系数提出来，得到
$$A={\lambda }_1{P}_1+\cdots +{\lambda }_s{P}_s$$
其中${\lambda }_1,\cdots ,{\lambda }_s$为$A$的互不相同的非零特征值，由于
$$\begin{gathered} ({\alpha }_i{\alpha }_i^H{)}^H={\alpha }_i{\alpha }_i^H(1\le i\le n) \\ ({\alpha }_i{\alpha }_i^H)({\alpha }_j{\alpha }_j^H)=0(1\le i\ne j\le n) \\ ({\alpha }_i{\alpha }_i^H{)}^2={\alpha }_i{\alpha }_i^H(1\le i\le n) \end{gathered}$$
所以
$$P_i^H=P_i,P_i^2=P_i,P_i{P}_j=0(1\le i\ne j\le s)$$

$P_i$是某正交变换（在某基下）的矩阵，故常称为正交投影矩阵

单纯矩阵的谱分解

设$A$是单纯矩阵
设${\lambda }_1,\cdots ,{\lambda }_n$是$A$的$n$个特征值，$x_1,\cdots ,x_n$是$A$的$n$个线性无关的特征向量，且有
$$A{x}_i={\lambda }_i{x}_i(i=1,2,\cdots ,n)$$
令
$$P=(x_1,\cdots ,x_n)$$
$$\Lambda =diag({\lambda }_1,\cdots ,{\lambda }_n)$$
则
$$A=P\Lambda P^{-1}$$
$$A^T=(P^T{)}^{-1}\Lambda P^T$$
立即推$A^T$也与对角矩阵相似，因此，设$y_1,\cdots ,y_n$是$A^T$的$n$个线性无关的特征向量,即
$$A^T{y}_i={\lambda }_i{y}_i(i=1,2,\cdots ,n)$$
$$y_i^{T}A={\lambda }_i{y}_i^T(i=1,2,\cdots ,n)$$
称$y_i^T$是$A$的左特征向量,$x_i$是$A$的右特征向量
$$(y_1,\cdots ,y_n)=(P^T{)}^{-1}=(P^{-1}{)}^T$$
$$P^{-1}=\left(\begin{array}{c}{y}_1^T\\ ⋮\\ y_n^T\end{array}\right)$$
由$P{P}^{-1}=P^{-1}P=I$,得
$$(x_1,\cdots ,x_n)\left(\begin{array}{c}{y}_1^T\\ ⋮\\ y_n^T\end{array}\right)=\left(\begin{array}{c}{x}_1^T\\ ⋮\\ x_n^T\end{array}\right)(y_1,\cdots ,y_n)=I$$
立即推
$$x_1{y}_1^T+x_2{y}_2^T+\cdots x_n{y}_n^T=I$$
比较两端得
$$y_i^T{x}_j={\delta }_{ij}=\{\begin{array}{l}1,i=j\\ 0,i\ne j\end{array}(i,j=1,2,\cdots ,n)$$
于是
$$\begin{array}{rl}A& =(x_1,\cdots ,x_n)diag({\lambda }_1,\cdots ,{\lambda }_n)\left(\begin{array}{c}{y}_1^T\\ ⋮\\ y_n^T\end{array}\right)\\ & ={\lambda }_1{x}_1{y}_1^T+\cdots +{\lambda }_n{x}_n{y}_n^T\end{array}$$

令
$$G_i=x_i{y}_i^T$$
得到
$$A=\sum _{i=1}^n{\lambda }_i{G}_i$$
称为单纯矩阵$A$的谱分解

定理

设$A$是$n$阶单纯矩阵，${\lambda }_1,\cdots ,{\lambda }_r$是$A$的$r$个相异的特征值，则$A$可以进行满足下列性质的谱分解
（1）$A={\sum }_{j=1}^r{\lambda }_j{E}_j$
（2）$E_j^2=E_j(j=1,2,\cdots ,r)$
（3）$E_i{E}_j=0(i\ne j,i,j=1,\cdots ,r)$
（4）${\sum }_{j=1}^r{E}_j=I$

证明：
设对应与${\lambda }_j$的线性无关的右特征向量$x_1^j,\cdots ,x_{s_j}^j$,其中$s_j$是对应${\lambda }_j$的代数重复度，而左特征向量为$(y_1^j{)}^T,\cdots ,(y_{s_j}^j{)}^T$
于是
$$A=\sum _{j=1}^r{\lambda }_j(\sum _{k=1}^{s_j}{x}_k^j(y_k^j{)}^T)=\sum _{i=1}^r{\lambda }_j{E}_j$$

$$E_j=\sum _{k=1}^{s_j}{x}_k^j(y_k^j{)}^T=(x_1^j,\cdots ,x_{s_j}^j)\left(\begin{array}{c}(y_1^j{)}^T\\ ⋮\\ (y_{s_j}^j{)}^T\end{array}\right)$$
所以
$$\sum _{j=1}^r{E}_j=I$$
由
$$y_i^T{x}_j={\delta }_{ij}$$
得
$$E_j^2=E_j,E_i{E}_j=0$$

$E_j$称为$A$谱分解的成分矩阵或幂等矩阵

推论

设$A={\sum }_{j=1}^r{\lambda }_j{E}_j$是单纯矩阵的谱分解，则
$$A^m=\sum _{j=1}^r{\lambda }_j^m{E}_j$$