《矩阵论》学习笔记（五）：第五章 特征值的估计及对称矩阵的极性

第五章 特征值的估计及对称矩阵的极性

注：
1.本章讨论的是" 方阵“的特征值。
2.复数域上的方阵 $A_{n\ast n}$特征值个数=阶数n。

一、特征值的估计

• 原因/背景：
  1）大矩阵特征值的计算困难；
  2）大量应用中，不需要精确计算特征值，只需估测出其范围即可。

1.1. 特征值的界

1. 特征值的模的上下界估计：
   是对每个特征值做估计.

- 特征值模的 虚部的 上界估计：
1）$[Im(\lambda )]\le M\sqrt{\frac{n(n-1)}{2}}$， 其中，$M=max\frac{1}{2}[a_{rs}-a_{sr}]$，考察了矩阵的对称程度。
2）$[Im(\lambda )]\le \frac{1}{2}[[A-A^H]{]}_{m无穷}$
- [在估计特征值虚部的上界时，(1)比(2)结果更精准。]

- 特征值模的 实部的 上界估计：
1）$[Re(\lambda )]\le \frac{1}{2}[[A+A^H]{]}_{m无穷}$
2）$[\lambda ]\le \rho (A)\le [[A]{]}_{m无穷}$

- 以上 得到以下推论：
1. 实对称矩阵的特征值都是实数。
2. Hermite矩阵的特征值都是实数。$A=A^H$
3. 反Hermite矩阵的特征值都是零或虚数。$A=-A^H$

2. 特征值的模之积的上下界估计：
   是对全体特征值做估计.

矩阵A满足的特点	特征值的模的积的上下界估计
1）按行严格对角占优	$0<{\prod }_{r=1}^n{m}_r\le [detA]={\prod }_{r=1}^n[{\lambda }_r(A)]\le {\prod }_{r=1}^n{M}_r$. 等号成立：$a_{rs}=0$(s>r).
2）一般方阵	$[detA]={\prod }_{r=1}^n[{\lambda }_r(A)]\le [{\prod }_{s=1}^n({\sum }_{r=1}^n[a_{rs}{]}^2){]}^{1/2}$. 等号成立：某列$a_{s_0}=0$或 列向量两两相交$(a_r,a_s)=0$. 也即，特征值的模的积≤矩阵(各列元素的2-范数之和)的乘积。

其中，

- 涉及的几个小概念：
1. $R_r(A)$：第r行，除对角元素$a_{rr}$外其他所有元素的模之和
2. $M_r(A)$：第r行，对角元素$a_{rr}$与其右侧所有元素的模之和
3. $m_r(A)$：第r行，对角元素$a_{rr}$与其右侧所有元素的模之差
4. 按行严格对角占优：第r行，对角元素$a_{rr}$的模 > $R_r(A)$
5. 按行弱对角占优：第r行，对角元素$a_{rr}$的模 ≥ $R_r(A)$，且存在$r_0\in [1,n]$，使得$a_{r_0{r}_0}$的模>$R_{r_0}(A)$

3. 特征值的模的平方和的上界估计：
   是对全体特征值做估计.

特征值的模的平方和的上界估计：
${\sum }_{r=1}^n[{\lambda }_r]\le {\sum }_{r,s=1}^n[a_{rs}{]}^2=[[A]{]}_F^2$
等号成立条件：A为正规矩阵，$A^{H}A=A{A}^H$. 也即，A的特征值的模的平方和≤A的所有元素的模的平方和。

1.2. 盖尔圆 Gerschgorin

• 原因/背景：
  几何的角度估计特征值：
  Gerschgorin提出用复平面的一组圆盘覆盖矩阵的全体特征值。

对矩阵A的任一特征值$\lambda$，存在i，使得对矩阵A的第i行有： $|z-a_{rr}|\le R_i(A)$，
也即，每个${\lambda }_i$一定在某个以($a_{rr},0$)为圆心，以$R_i$为半径的圆$G_i$内。

-盖尔圆与特征值的关系
1. 方阵A的所有特征值都在它的n个盖尔圆的并集内。
2. 盖尔圆并集组成的每个连通部分，若是由k个盖尔圆组成的，则此连通部分有k个特征值。

• 特征值的隔离
  1- 原因：
  连通的盖尔圆使得无法判断特征值到底在哪一个内，希望能够每个圆内有且只有一个特征值。
  2-做法：
  调整矩阵A的盖尔圆半径，使各个$G_i$孤立、不相交。
  对矩阵做相似变换，需要找到合适的对角矩阵D[D=$diag(d_1,d_2,...d_n)$]，使得：
  $r_i={\sum }_{j=1,j\ne i}^n[a_{ij}]\frac{d_i}{d_j}$，
  其中，B=DAD${}^{-1}=(\frac{d_i}{d_j}{a}_{ij}{)}_{n\ast n}$.
  $det(A)=det(B)=det(B^H)$，A和B有相同的特征值。

1.3. Ostrowski

• 原因/背景：
  几何的角度估计特征值：
  Ostrowski提出用复平面的一组卵形覆盖矩阵的全体特征值。

Ostrowski 1：

对矩阵A的任一特征值$\lambda$，存在i，使得对矩阵A的第i行有：
$|z-a_{rr}|\le [R_i(A){]}^{\alpha }[R_i(A^T){]}^{1-\alpha }$，
其中，$0\le \alpha \le 1$.

由于 ${\tau }^{\alpha }{\sigma }^{1-\alpha }\le \alpha \tau +(1-\alpha )\sigma$，

几个推论
1. $[z-a_{rr}]\le \alpha R_i(A)+(1-\alpha )R_i(A^T)$
2. …

Ostrowski 2：

对矩阵A的任一特征值$\lambda$，存在i和j，使得对矩阵A的第i、j两行有：
${\Omega }_{ij}(A)=${$z|z\in C,|z-a_{ii}||z-a_{jj}|\le R_i(A)R_j(A)$}，
其中，$i\ne j$.

• 推论：
  $|a_{ii}||a_{jj}|>R_i(A)R_j(A)$，则detA≠0.
  其中，$i\ne j$.

二、广义特征值问题

• 原因/背景：
  在振动理论中，常碰到广义特征值问题的求解问题。

• 广义特征值：

$A\vec{x}=\lambda B\vec{x}$，其中A为n阶实对称矩阵，B为n阶实对称正定矩阵。
$\lambda$称作矩阵A相对于B的特征值，
非零解$\vec{x}$称作$\lambda$的特征向量，(${\vec{x}}_1,{\vec{x}}_2,...,{\vec{x}}_n$)构成一个完备的特征向量系(正交)。

• 广义特征值的等价形式：

1. $B^{-1}A\vec{x}=\lambda \vec{x}$，其中$B^{-1}A$不是对称矩阵。
2. $S\vec{y}=\lambda \vec{y}$，其中，$S=G^{-1}A(G^{-1}{)}^T$为对称矩阵。由于B是实对称正定矩阵，可以进行Cholesky分解成$B=G{G}^{{}^{T}9}$。

三、对称矩阵特征值的极性

3.1. 实对称矩阵的Rayleigh商的极性

• 1. 实对称矩阵的Rayleigh商

$R(\vec{x})=\frac{{\vec{x}}^{T}A\vec{x}}{{\vec{x}}^T\vec{x}},(x\ne 0)$

Rayleigh商的性质
1. R(x)是连续函数
2. R(x)是x的零次齐次函数
3. R(kx)=R(x)=c
4. R(x)的最大/小值能够在单位圆上取到.

• 2 实对称矩阵的极性

(1).若已知：
矩阵A的特征值由小到大排列为：${\lambda }_1<{\lambda }_2<...<{\lambda }_n$，对应的标准正交特征向量系为：L= {$p_1,p_2,...,p_n$}。

• 得到实对称矩阵的极性：

$mi{n}_{x\ne 0}R(x)={\lambda }_1，ma{x}_{x\ne 0}R(x)={\lambda }_n$
且在单位球面$||x|{|}_2=1$上，$p_1、p_n$分别是R(x)的一个极小值点和极大值点：
$R(p_1)={\lambda }_1，R(p_n)={\lambda }_n.$
即，函数R(x)的最小值为最小特征值，最大值为最大特征值。
在单位圆上，R(x)在x=p1和pn处取得极值。

• 推论：
  L的子空间$L_0=${$p_r,p_{r+1},...,p_k$}的极性：
  — $mi{n}_{x\ne 0}R(x)={\lambda }_r，ma{x}_{x\ne 0}R(x)={\lambda }_k$

(2).若特征向量$p_1,p_2,...,p_n$未知时，求A的第k大的特征值为：
— ${\lambda }_k=mi{n}_{v_k}max${$x^{T}Ax|x\in V_k，||x|{|}_2=1$}

3.1.3 实对称矩阵的扰动

3.2. 广义特征值的极小极大原理

1. 广义Rayleigh商

$R(\vec{x})=\frac{{\vec{x}}^{T}A\vec{x}}{{\vec{x}}^{T}B\vec{x}},(x\ne 0)$

2. 广义特征值的极性

• 驻点：
  $x_0$是函数R(x)的驻点的充要条件： $x_0$是$Ax=\lambda Bx$的属于特征值$\lambda$的特征向量.

• 广义特征值的极性：
  特征值的极小极大原理：— ${\lambda }_k=mi{n}_{v_k}ma{x}_{(0\ne x\in V_k)}R(x)$
  特征值的极大极小原理：— ${\lambda }_{(}n-k+1)=ma{x}_{v_k}mi{n}_{(0\ne x\in V_k)}R(x)$

• 实对称矩阵特征值的极性：
  — ${\lambda }_k=mi{n}_{v_k}ma{x}_{(0\ne x\in V_k)}R(x)$
  — ${\lambda }_{(}n-k+1)=ma{x}_{v_k}mi{n}_{(0\ne x\in V_k)}R(x)$

四、矩阵的直积与应用

4.1. 直积的概念

矩阵的直积：A⊗B.

直积的性质
1. 交换律	A⊗B≠B⊗A
2. 分配律	(A1+A2)⊗B=A1⊗B+A2⊗B
3. 结合律	(A⊗B)⊗C=A⊗(B⊗C)
4. 数乘	k(A⊗B)=(kA)⊗B=A⊗(kB)
5. 直积的乘积等于乘积的直积	(A1⊗B1)(A2⊗B2)=(A1A2)⊗(B1B2)
6. 可逆性	$A_{m\ast m},B_{n\ast n}$都是可逆矩阵，则(A⊗B)${}^{-1}$=A${}^{-1}$⊗B${}^{-1}$
7. 三角矩阵	$A_{m\ast m},B_{n\ast n}$都是三角矩阵，则(A⊗B)也是三角矩阵
8. 共轭转置	(A⊗B)${}^H$=A${}^H$⊗B${}^H$
9. 正交酉矩阵	$A_{m\ast m},B_{n\ast n}$都是正交酉矩阵，则(A⊗B)也是正交酉矩阵
10. 秩	rank(A⊗B)=(rankA)*(rankB)
11. 相似	$A\in C^{m\ast m},B\in C^{n\ast n}$，则(A⊗B)~(B⊗A)

• 与二元多项式结合：
  对$f(x,y)={\sum }_{i=0}^{l_1}{\sum }_{j=0}^{l_2}{c}_{ij}{x}^i{y}^j$，以及矩阵$A_{m\ast m},B_{n\ast n}$定义m*n阶矩阵f(A,B)：
  $f(A,B)={\sum }_{i=0}^{l_1}{\sum }_{j=0}^{l_2}{c}_{ij}{A}^i\otimes B^j$.

f(A,B)的性质
1. 特征值	1> A的特征值{${\lambda }_1,{\lambda }_2,...{\lambda }_n$},B的特征值{${\mu }_1,{\mu }_2,...{\mu }_n$},则矩阵$f(A,B)$的全体特征值为$f({\lambda }_i,{\mu }_j)$; 2> 矩阵(A⊗B)的全体特征值为${\lambda }_i{\mu }_j$.
2.行列式det	$A\in C^{m\ast m},B\in C^{n\ast n},det(A\otimes B)=det{A}^n\ast det{B}^m$
3.迹tr	$A\in C^{m\ast m},B\in C^{n\ast n},tr(A\otimes B)=(trA)\ast (trB)$

4.2. 线性矩阵方程的可解性