矩阵论（二）

矩阵分析

矩阵序列

矩阵序列收敛==矩阵分量序列收敛

设有$C^{m\times n}$中的矩阵序列 { A ( k ) } \{\pmb A^{(k)}\} {A(k)}，其中$A^{(k)}=(a_{ij}^{(k)}{)}_{m\times n}$，若${\lim }_{k\to +\infty }{a}_{ij}^{(k)}=a_{ij}$，则称矩阵序列 { A ( k ) } \{\pmb A^{(k)}\} {A(k)}收敛于$A=(a_{ij}{)}_{m\times n}$，或称$A$为矩阵序列 { A ( k ) } \{\pmb A^{(k)}\} {A(k)}的极限，记为
$$\underset{k\to +\infty }{\lim }{A}^{(k)}=Aor{A}^{(k)}\to A$$
不收敛的矩阵序列称为发散

矩阵序列收敛==矩阵范数序列收敛

设$A^{(k)},A\in C^{m\times n}$，则${\lim }_{k\to +\infty }{A}^{(k)}=A$的充分必要条件是${\lim }_{k\to +\infty }\parallel A^{(k)}-A\parallel =0$，其中$\parallel \cdot \parallel$是$C^{m\times n}$上的任一矩阵范数

• ${\lim }_{k\to +\infty }(\alpha A^{(k)}+\beta B^{(k)})=\alpha A+\beta B$
• ${\lim }_{k\to +\infty }{A}^{(k)}{B}^{(k)}=AB$
• 当$A^{(k)},A$均可逆时，${\lim }_{k\to +\infty }(A^{(k)}{)}^{-1}=A^{-1}$

收敛矩阵

• 设$A\in C^{m\times n}$，若${\lim }_{k\to +\infty }{A}^k=O$，则$A$为收敛矩阵
• 设$A\in C^{m\times n}$，则$A$为收敛矩阵的充分必要条件是$\rho (A)<1$
• 设$A\in C^{m\times n}$，若对$C^{m\times n}$上的某一矩阵范数$\parallel \cdot \parallel$有$\parallel A\parallel <1$，则$A$为收敛矩阵

矩阵级数

由$C^{m\times n}$中的矩阵序列 { A ( k ) } \{\pmb A^{(k)}\} {A(k)}构成的无穷和
$$A^{(0)}+A^{(1)}+\cdots +A^{(k)}+\cdots$$
称为矩阵级数，记为${\sum }_{k=0}^{+\infty }{A}^{(k)}$。对任一正整数$N$，称$S^{(N)}={\sum }_{k=0}^N{A}^{(k)}$为矩阵级数的部分和。如果由部分和构成的矩阵序列 { S ( N ) } \{\pmb S^{(N)}\} {S(N)}收敛，且有极限$S$，即${\lim }_{N\to +\infty }{S}^{(N)}=S$，则称矩阵级数${\sum }_{k=0}^{+\infty }{A}^{(k)}$收敛，其和为$S$
$$S=\sum _{k=0}^{+\infty }{A}^{(k)}$$
不收敛的矩阵级数称为发散的。

设$A^{(k)}=(a_{ij}^{(k)}{)}_{m\times n}\in C^{m\times n}$。如果$mn$个项数级数
$$\sum _{k=0}^{+\infty }{a}_{ij}^{(k)}$$
都绝对收敛，即${\sum }_{k=0}^{+\infty }\mid a_{ij}^{(k)}\mid$都收敛，则称矩阵级数${\sum }_{k=0}^{+\infty }{A}^{(k)}$绝对收敛。

• 设$A^{(k)}=(a_{ij}^{(k)}{)}_{m\times n}\in C^{m\times n}$，则矩阵级数${\sum }_{k=0}^{+\infty }{A}^{(k)}$绝对收敛的充分必要条件是正项级数${\sum }_{k=0}^{+\infty }\parallel A^{(k)}\parallel$收敛，其中$\parallel \cdot \parallel$是$C^{m\times n}$上任一矩阵范数

• 有${\sum }_{k=0}^{+\infty }{A}^{(k)},{\sum }_{k=0}^{+\infty }{B}^{(k)}$

  • ${\sum }_{k=0}^{+\infty }(A^{(k)}+B^{(k)})=A+B$

  • $\forall \lambda \in C,{\sum }_{k=0}^{+\infty }\lambda A^{(k)}=\lambda A$

  • 绝对收敛的矩阵级数必收敛，并且任意调换其项的顺序所得的矩阵级数仍收敛，且其和不变

  • 若矩阵级数${\sum }_{k=0}^{+\infty }{A}^{(k)}$收敛（或绝对收敛），则矩阵级数${\sum }_{k=0}^{+\infty }P{A}^{(k)}Q$也收敛（或绝对收敛），并且有
    $$\sum _{k=0}^{+\infty }P{A}^{(k)}Q=P\left(\sum _{k=0}^{+\infty }{A}^{(k)}\right)Q$$

  • 若${\sum }_{k=0}^{+\infty }{A}^{(k)},{\sum }_{k=0}^{+\infty }{B}^{(k)}$均绝对收敛，则它们按项相乘所得的矩阵级数
    $$A^{(0)}{B}^{(0)}+(A^{(0)}{B}^{(1)}+A^{(1)}{B}^{(0)})+\cdots +(A^{(0)}{B}^{(k)}+A^{(1)}{B}^{(k-1)}+\cdots +A^{(k)}{B}^{(0)})+\cdots$$
    也绝对收敛，且其和为$AB$

幂级数

设$A^{(k)}\in C^{m\times n},a_k\in C$，称矩阵级数
$$\sum _{k=0}^{+\infty }{a}_k{A}^k$$
为矩阵$A$的幂级数

设幂级数${\sum }_{k=0}^{+\infty }{a}_k{z}^k$的收敛半径为$r,A\in C^{n\times n}$，则

• $\rho (A)<r$时，矩阵幂级数${\sum }_{k=0}^{+\infty }{a}_k{A}^k$绝对收敛
• $\rho (A)>r$时，矩阵幂级数${\sum }_{k=0}^{+\infty }{a}_k{A}^k$发散
• 若存在某一范数$\parallel A\parallel <r$，则矩阵幂级数${\sum }_{k=0}^{+\infty }{a}_k{A}^k$绝对收敛
• 矩阵幂级数${\sum }_{k=0}^{+\infty }{A}^k$收敛的充分必要条件是$\rho (A)<1$，且收敛于$(I-A{)}^{-1}$

矩阵函数

定义

设幂级数${\sum }_{k=0}^{+\infty }{a}_k{z}^k$的收敛半径为$r$，且当$\mid z\mid <r$时，幂级数收敛于函数$f(z)$，即
$$f(z)=\sum _{k=0}^{+\infty }{a}_k{z}^k(\mid z\mid <r)$$
如果$A\in C^{n\times n}$满足$\rho (A)<r$，则称收敛的矩阵幂级数${\sum }_{k=0}^{+\infty }{a}_k{A}^k$的和仍为矩阵函数，记为$f(A)$
$$f(A)=\sum _{k=0}^{+\infty }{a}_k{A}^k$$

$$\begin{array}{rl}& e^A=\sum _{k=0}^{+\infty }\frac{1}{k!}{A}^k\\ & \sin A=\sum _{k=0}^{+\infty }\frac{(-1{)}^k}{(2k+1)!}{A}^{2k+1}\\ & \cos A=\sum _{k=0}^{+\infty }\frac{(-1{)}^k}{(2k)!}{A}^{2k}\\ & (I-A{)}^{-1}=\sum _{k=0}^{+\infty }{A}^k,\rho (A)<1\\ & \ln (I+A)=\sum _{k=0}^{+\infty }\frac{(-1{)}^k}{k+1}{A}^{k+1},\rho (A)<1\end{array}$$

计算

• 利用$\mathrm{Hamilton}-\mathrm{Cayley}$定理找出矩阵方幂之间的关系进行化简

• 利用相似对角化

  $P^{-1}AP=diag({\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n)=\Lambda \Rightarrow f(A)=Pdiag(f({\lambda }_1),f({\lambda }_2),\cdots ,f({\lambda }_n)P^{-1}$

• 利用$\mathrm{Jordan}$标准形
  $$f(At)=P\left[\begin{array}{ccc}f(J_{1}t)& & \\ & \ddots & \\ & & f(J_{s}t)\end{array}\right]P^{-1}$$

  $$f(J_{i}t)={\left[\begin{array}{cccc}f(\lambda )& \frac{t}{1!}{f}^{\prime }(\lambda )& \cdots & \frac{t^{r_i-1}}{(r_i-1)!}{f}^{(r_i-1)}(\lambda )\\ & f(\lambda )& \ddots & ⋮\\ & & \ddots & \frac{t}{1!}{f}^{\prime }(\lambda )\\ & & & f(\lambda )\end{array}\right]}_{\lambda ={\lambda }_{i}t}$$

• 待定系数法

  • 求矩阵$A$的特征多项式（最高项为$n$）（如果得到最小多项式则更简单）

  • 设$r(\lambda )=b_{n-1}{\lambda }^{n-1}+\cdots +b_1\lambda +b_0$，根据
    $$r^{(l)}({\lambda }_i)=t^l{f}^{(l)}(\lambda ){\mid }_{\lambda ={\lambda }_{i}t}$$
    或者
    $$r^{(l)}({\lambda }_i)=f^{(l)}(\lambda t){\mid }_{\lambda ={\lambda }_i}$$
    列方程组求解$b_0,b_1,\cdots ,b_{n-1}$

  • 计算$f(At)=r(A)=b_{n-1}{A}^{n-1}+\cdots +b_{1}A+b_{0}I$

性质

• $\sin (A)=-\sin A,\cos (-A)=\cos A$

• $e^{iA}=\cos A+i\sin A$

• $\cos A=\frac{1}{2}(e^{iA}+e^{-iA}),\sin A=\frac{1}{2i}(e^{iA}-e^{-iA})$

• $e^{A+B}=e^A{e}^B=e^B{e}^A$

• $\sin (A+B)=\sin A\cos B+\cos A\sin B,(AB=BA)$

• $\cos (A+B)=\cos A\cos B-\sin A\sin B,(AB=BA)$

• $\cos 2A={\cos }^{2}A-{\sin }^{2}A$

• $\sin 2A=2\sin A\cos A$

• $\det e^A=e^{trA}$

• $(e^A{)}^{-1}=e^{-A}$

矩阵的微分与积分

函数矩阵的微分与积分

以变量$t$的函数为元素的矩阵$A(t)=(a_{ij}(t){)}_{m\times n}$称为函数矩阵。如果$t\in [a,b]$，则$A(t)$的定义域为$[a,b]$，如果每个$a_{ij}(t)$都在$[a,b]$上连续、可微、可积，则称$A(t)$在$[a,b]$上是连续、可微、可积。当$A(t)$可微时，规定其导数为
$$A^{\prime }(t)=(a_{ij}^{\prime }(t){)}_{m\times n}or\frac{d}{dt}A(t)=(\frac{d}{dt}{a}_{ij}(t){)}_{m\times n}$$
当$A(t)$在$[a,b]$上可积时，规定$A(t)$在$[a,b]$上的积分为
$${\int }_a^{b}A(t)dt=({\int }_a^b{a}_{ij}(t)dt{)}_{m\times n}$$

求导法则

设$A(t)$与$B(t)$是适当阶的可微矩阵，则

• $\frac{d}{dt}(A(t)+B(t))=\frac{d}{dt}A(t)+\frac{d}{dt}B(t)$

• 当$\lambda (t)$为可微函数时，有
  $$\frac{d}{dt}(\lambda (t)A(t))=(\frac{d}{dt}\lambda (t))A(t)+\lambda (t)\frac{d}{dt}A(t)$$

• $\frac{d}{dt}(A(t)B(t))=(\frac{d}{dt}A(t))B(t)+A(t)\frac{d}{dt}B(t)$

• 当$u=f(t)$关于$t$可微时，有
  $$\frac{d}{dt}A(u)=f^{\prime }(t)\frac{d}{dt}A(u)$$

• 当$A^{-1}(t)$是可微矩阵时，有
  $$\frac{d}{dt}(A^{-1}(t))=-A^{-1}(t)(\frac{d}{dt}A(t))A^{-1}(t)$$

特定求导公式

• $\frac{d}{dt}{e}^{At}=A{e}^{At}=e^{At}A$
• $\frac{d}{dt}\sin At=A\cos At=(\cos At)A$
• $\frac{d}{dt}\cos At=-A\sin At=-(\sin At)A$

积分公式

• ${\int }_a^b(A(t)+B(t))dt={\int }_a^{b}A(t)dt+{\int }_a^{b}B(t)dt$

• ${\int }_a^b\lambda A(t)=\lambda {\int }_a^{b}A(t)dt$

• ${\int }_a^{b}A(t)Bdt=({\int }_a^{b}A(t)dt)B,{\int }_a^{b}AB(t)dt=A{\int }_a^{b}B(t)dt$

• 当$A(t)$在$[a,b]$上连续可微时，$\forall t\in (a,b)$，有
  $$\frac{d}{dt}({\int }_a^{t}A(\tau )d\tau )=A(t)$$

• 当$A(t)$在$[a,b]$上连续可微时，有
  $$\frac{d}{dt}{A}^{\prime }(t)dt=A(b)-A(a)$$

数量函数对矩阵变量的导数

设$f(X)$是以矩阵$X=(x_{ij}{)}_{m\times n}$为自变量的$mn$元函数，且$\frac{\partial f}{\partial x_{ij}}$都存在，规定$f$对矩阵变量$X$的导数$\frac{df}{dX}$为
$$\frac{df}{dX}=(\frac{\partial f}{\partial x_{ij}}{)}_{m\times n}=\left[\begin{array}{ccc}\frac{\partial f}{\partial x_{11}}& \cdots & \frac{\partial f}{\partial x_{1n}}\\ ⋮& & ⋮\\ \frac{\partial f}{\partial x_{m1}}& \cdots & \frac{\partial f}{\partial x_{mn}}\end{array}\right]$$
特别的，以$x=({\xi }_1,{\xi }_2,\cdots ,{\xi }_n{)}^T$为自变量的函数$f(x)$的导数
$$\frac{df}{dx}=(\frac{\partial f}{\partial {\xi }_1},\frac{\partial f}{\partial {\xi }_2},\cdots ,\frac{\partial f}{\partial {\xi }_n}{)}^T$$
称为数量函数对向量变量的导数，即为在数学分析中的$f$的梯度向量，记为$\text{grad}f$

$$\frac{d(tr(AX))}{dX}=A^T$$
$$\frac{d(x^{T}Ax)}{dx}=(A+A^T)x$$
$$\frac{d}{dX}\det X=(\det X)(X^{-1}{)}^T$$

矩阵值函数对矩阵变量的导数

矩阵分析应用举例

求解一阶线性常系数微分方程组

KaTeX parse error: Undefined control sequence: \cases at position 2: \̲c̲a̲s̲e̲s̲{ \cfrac{d\pmb …

$$\begin{array}{rl}& e^{At}=b_1(t)A+b_0(t)I,Ax=\lambda x\\ ⟹& e^{At}x=[b_1(t)\lambda +b_0(t)]x\\ ⟹& e^{-At}x=[b_1(-t)\lambda +b_0(-t)]x\end{array}$$

求解矩阵方程

$$AX+XB=F$$
如果$A,B$的所有特征值都具有非负实部，则有唯一解
$$X=-{\int }_0^{+\infty }{e}^{At}F{e}^{Bt}dt$$

最小二乘问题

对于矛盾方程组
$$\parallel A{x}_0-b{\parallel }_2=\underset{x\in C^n}{\min }\parallel Ax-b{\parallel }_2$$
当$A,b$分别为实数矩阵和向量时，解为
$$A^{T}Ax=A^{T}b\text{\hspace{1em}(法方程组)}$$