范数和矩阵函数

第0章 复习与引申
第1章 线性空间与线性变换
第2章 内积空间和等距变换
第3章 矩阵的相似标准形
第4章 Hermite二次型
第5章 范数和矩阵函数
第6章 广义逆矩阵

第五章 范数和矩阵函数

1 向量范数

范数的定义：设$V$是数域$C$上线性空间，$v$是定义在$V$上的实值函数。如果$v$满足：

1. 对任意$\alpha \ne \theta \in V,v(\alpha )>0$；恒正性
2. 对任意$\alpha \in V,k\in C,v(k\alpha )=|k|v(\alpha )$；齐性
3. 对任意$\alpha ,\beta \in V,v(\alpha +\beta )\le v(\alpha )+v(\beta )$；三角不等式

​ 则称$v$是$V$上的范数，定义了范数的线性空间称为赋范线性空间。

$C^n$上的范数：对于任意$X=(x_1,x_2,\cdots ,x_n)\in C^n$

1. 向量1-范数：$||X|{|}_1={\sum }_{i=1}^n|x_i|$;
2. 向量2-范数：$||X|{|}_2=\sqrt{{\sum }_{i=1}^n|x_i{|}^2}$;（内积空间上的长度）
3. 向量$\infty$-范数：$||X|{|}_{\infty }={\max }_{1\le i\le n}|x_i|$;
4. 向量p-范数：$p\ge 1,||X|{|}_p=({\sum }_{i=1}^n|x_i{|}^p{)}^{1/p}$；
5. 如果$||\cdot ||$是已知范数，A是一可逆矩阵，则$||X|{|}_A=||AX||$也是$C^n$的一种范数。

线性空间$V$上的范数：设$V$是复数域$C$上的$n$维线性空间，${\alpha }_1,\cdots ,{\alpha }_n$是$V$的一组基，$||\cdot ||$是$C^n$上已知的范数，据此可以定义$V$上的范数：若$\eta \in V$在基$\alpha ,\cdots ,{\alpha }_n$下的坐标是$X$，规定$||\eta ||=||X||$。

向量序列的收敛性：设$V$是有限维赋范线性空间，$||\cdot |{|}_a$和$||\cdot |{|}_b$都是$V$上的范数， { η k } k = 1 ∞ \{\eta_k\}_{k=1}^\infty {ηk​}k=1∞​是$V$中的一个向量序列，${\eta }_0\in V$。则${\lim }_{k\to \theta }||{\eta }_k-{\eta }_0|{|}_a=0$当且仅当${\lim }_{k\to \infty }||{\eta }_k-{\eta }_0|{|}_b=0$。（向量序列的收敛性与范数无关）

2 矩阵范数

矩阵p范数：设矩阵$A=(a_{ij}{)}_{n\times n}$

1. $||A|{|}_{m1}={\sum }_{i,j}|a_{ij}|$;
2. $||A|{|}_{m2}=({\sum }_{i,j}|a_{ij}{|}^2{)}^{1/2}=(tr{A}^{H}A{)}^{1/2}=(trA{A}^H{)}^{1/2}$；
3. ∣ ∣ A ∣ ∣ m ∞ = max ⁡ i , j { ∣ a i j ∣ } ||A||_{m_\infty}=\max_{i,j}\{|a_{ij}|\} ∣∣A∣∣m∞​​=maxi,j​{∣aij​∣}。
4. $||A|{|}_{m2}$又记为$||A|{|}_F$，称为Frobenius范数，简称$F$范数。

$F$范数是酉不变的，若$U,V$是酉矩阵，则$||A|{|}_F=|UAV|{|}_F$。

算法范数的定义：设$||\cdot |{|}_{v_n},||\cdot |{|}_{v_m}$分别是$C^n,C^m$上的范数，定义$C^{m\times n}$上的实值函数$||\cdot ||$：
$$||A||=\underset{\theta \ne X\in C^n}{\max }\frac{||AX|{|}_{v_m}}{||X|{|}_{v_n}}$$
​ 称$||\cdot ||$是由$||\cdot |{|}_{v_n},||\cdot |{|}_{v_m}$诱导的算子范数。算法范数满足三条公理，所以一定是范数。

算子范数：设$A=(a_{ij}{)}_{s\times n}$

1. 算子1-范数、列模和范数： ∣ ∣ A ∣ ∣ 1 = max ⁡ 1 ≤ j ≤ n { ∑ i = 1 s ∣ a i j ∣ } ||A||_1=\max_{1\leq j\leq n}\{\sum_{i=1}^s|a_{ij}|\} ∣∣A∣∣1​=max1≤j≤n​{∑i=1s​∣aij​∣};
2. 算子2-范数、谱范数：$||A|{|}_2=\sqrt{\rho (A^{H}A)}$；
3. 算子3-范数、行模和范数： ∣ ∣ A ∣ ∣ ∞ = max ⁡ 1 ≤ i ≤ s { ∑ j = 1 n ∣ a i j ∣ } ||A||_{\infty}=\max_{1\leq i\leq s}\{\sum_{j=1}^n|a_{ij}|\} ∣∣A∣∣∞​=max1≤i≤s​{∑j=1n​∣aij​∣};

如果$M$是一个方阵，则$\rho (M)$指的是$M$的特征值的模的最大值，称为$M$的谱半径。

范数的相容性：设$C^{s\times m},C^{m\times n},C^{s\times n}$中定义了范数$||\cdot |{|}_a,||\cdot |{|}_b,||\cdot |{|}_c$，若$\forall A\in C^{s\times m}，B\in C^{m\times n}$，$||AB|{|}_c\le ||A|{|}_a||B|{|}_b$，则称范数$||\cdot |{|}_a,||\cdot |{|}_b,||\cdot |{|}_c$是相容的。

$||\cdot |{|}_{m1},||\cdot |{|}_{m2},||\cdot |{|}_1,||\cdot |{|}_2,||\cdot |{|}_{\infty }$是相容的，$||\cdot |{|}_{m_{\infty }}$是不相容的。

3 收敛定理

矩阵序列极限的定义：设矩阵序列 { A k } 1 ≤ k ≤ + ∞ , A k = ( a i j k ) n × n \{A_k\}_{1\leq k\leq +\infty},A_k=(a_{ij}^k)_{n\times n} {Ak​}1≤k≤+∞​,Ak​=(aijk​)n×n​，如果$A=(a_{ij}{)}_{n\times n}$，且$\forall i,j,{\lim }_{k\to \infty }{a}_{ij}^k=a_{ij}$,则称${\lim }_{k\to \infty }{A}_k=A$。如果$||\cdot ||$是一矩阵范数，则
$$\underset{k\to \infty }{\lim }{A}_k=A⟺\underset{k\to }{\lim }||A_k-A||=0$$
幂序列：对给定的方阵$A$，考虑方阵序列 { A k } \{A^k\} {Ak}。若有相容矩阵范数$||\cdot ||$，使得$||A||<1$，则${\lim }_{k\to \infty }{A}^k=O$。${\lim }_{k\to \infty }{A}^k=O⟺\rho (A)<1$。

若$||\cdot ||$是相容矩阵范数，则$\rho (A)\le ||A||$。（下届）

对于任意矩阵$A\in C^{n\times n}$，若$\epsilon >0$，则一定存在$C^{n\times n}$上相容矩阵范数$||\cdot ||$，使得$||A||<\rho (A)+\epsilon$。

矩阵的幂级数：设$A$是方阵，对于幂级数${\sum }_{i=0}^{\infty }{a}_i{x}^i,f_n(x)={\sum }_{i=0}^n{a}_i{x}^i$，若矩阵序列$f_n(A)$收敛于矩阵$M$，则称矩阵幂级数${\sum }_{i=0}^{\infty }{a}_i{A}^i$收敛于$M$。

若幂级数${\sum }_{i=0}^{\infty }{a}_i{x}^i$的收敛半径为$r$，则

1. 当$\rho (A)<r$时，矩阵幂级数${\sum }_{i=0}^{\infty }{a}_i{x}^i$收敛；
2. 当$\rho (A)>r$时，矩阵幂级数${\sum }_{i=0}^{\infty }{a}_i{x}^i$发散；

4 矩阵函数

矩阵函数的定义：设函数$f(x)$可展开成幂级数$f(x)={\sum }_{i=o}^{\infty }{a}_i{x}^i,|x|<R$，设$A\in C^{n\times n}$且$\rho (A)<R$，定义$f(A)={\sum }_{i=0}^{\infty }{a}_i{A}^i={\lim }_{n\to \infty }{\sum }_{i=0}^n{a}_i{A}^i$。

几个重要的函数：

1. $e^x={\sum }_{i=0}^{\infty }\frac{x^i}{i!}$
2. $\sin x={\sum }_{i=0}^{\infty }(-1{)}^i\frac{x^{2i+1}}{(2i+1)!}$
3. $\cos x={\sum }_{i=0}^{\infty }(-1{)}^i\frac{x^{2i}}{(2i)!}$

利用定义计算矩阵函数，就是对函数进行幂级数展开后带入矩阵。

Jordan形矩阵的函数：假设$f(x)={\sum }_{k=0}^{\infty }{a}_k{x}^k={\lim }_{n\to \infty }{f}_n(x)$，其中$f_n(x)={\sum }_{i=0}^n{a}_i{x}^i$。

若存在可逆阵$P$，使得矩阵$A=PJ{P}^{-1}$，其中$J$为若当型矩阵，则$f(A)=Pf(J)P^{-1}$。

若当型矩阵函数

若当块函数

已知$n\times n$矩阵$A$的特征值为${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n$，则$f(A)$的特征值为$f({\lambda }_1),f({\lambda }_2),\cdots ,f({\lambda }_n)$。

利用Jordan型矩阵计算矩阵函数，即计算每个Jordan块的矩阵函数结果，并组合。

待定系数法：若$A$的最小多项式为$m(\lambda )={\prod }_{i=1}^s(\lambda -{\lambda }_i{)}^{t_i}$，则$f(A)=g(A)⟺$对每个特征值${\lambda }_i$，有：
$$\begin{array}{rl}({\lambda }_i)& =g({\lambda }_i)\\ f^{\prime }({\lambda }_i)& =g^{\prime }({\lambda }_i)\\ \cdots & \\ f^{t_i-1}({\lambda }_i)& =g^{t_i-1}({\lambda }_i)\end{array}$$

利用待定系数法求解矩阵函数时，先计算出矩阵的最小多项式，然后构造$g(\lambda )$为最小多项式次数-1的多项式，求解多项式系数。

矩阵函数的性质：设$A,B\in C^{n\times n},O$是n阶零矩阵，则

1. $e^O=I$;
2. 若$AB=BA$，则$e^A{e}^B=e^B{e}^A=e^{A+B}$；
3. $(e^A{)}^{-1}=e^{-A}$

参考文献：工程矩阵理论，张明淳著