C3 矩阵分析及其应用

1. 矩阵序列

1.1 敛散性

定义: 将矩阵序列 $A^{(k)}={\left[a_{ij}^{(k)}\right]}_{m\times n}$, 记作 $\left\{A^{(k)}\right\}$ 当 ${\lim }_{k\to \infty }{a}_{ij}^{(k)}=a_{ij}(\forall i,j)$ 时, 称矩阵序列 $\left\{A^{(k)}\right\}$ 收敛于矩阵 $\mathbf{A}=\left(a_{ij}\right)$ 。记作
$$\underset{k\to \infty }{\lim }{A}^{(k)}=A\text{, 或者 }{A}^{(k)}\to A(k\to \infty )$$若数列 $\left(a_{ij}^{(k)}\right)$ 之一发散, 称 $\left\{A^{(k)}\right\}$ 发散

性质：（和、乘积、逆的收敛性一致）：
(1) 若 ${\lim }_{k\to \infty }{A}^{(k)}=A_{m\times n},{\lim }_{k\to \infty }{B}^{(k)}=B_{m\times n}$ 则
$$\underset{k\to \infty }{\lim }\left(a{A}^{(k)}+b{B}^{(k)}\right)=aA+bB,\forall a,b$$(2) 若 ${\lim }_{k\to \infty }{A}^{(k)}=A_{m\times n},{\lim }_{k\to \infty }{B}^{(k)}=B_{n\times l}$ 则
$$\underset{k\to \infty }{\lim }\left(A^{(k)}{B}^{(k)}\right)=AB$$(3) 若 $A^{(k)}$ 与 $A$ 是可逆矩阵, 且 ${\lim }_{k\to \infty }{A}^{(k)}=A$, 则
$$\underset{k\to \infty }{\lim }{\left(A^{(k)}\right)}^{-1}=A^{-1}$$

1.2 定理1（阐述矩阵序列收敛和矩阵范数之间的关系）

定理1: 设 $A^{(k)},A\in C^{m\times n}$, 则
(1) ${\lim }_{k\to \infty }{A}^{(k)}=0⟺\forall \Vert \bullet \Vert ,{\lim }_{k\to \infty }\Vert A^{(k)}\Vert =0$
(2) ${\lim }_{k\to \infty }{A}^{(k)}=A⟺\forall \Vert \bullet \Vert ,{\lim }_{k\to \infty }\Vert A^{(k)}-A\Vert =0$

1.3 定理2（阐述收敛矩阵和谱半径之间的关系）

谱半径：对 $\forall A\in C^{n\times n}$, 谱半径为 $\rho (A)={\max }_i\left|{\lambda }_i\right|$
定义: 若 $A_{n\times n}$ 满足 ${\lim }_{k\to \infty }{A}^k=0_{n\times n}$, 称 $A$ 为收玫矩阵
定理 2: $A$ 为收敛矩阵 $⟺\rho (A)<1$

1.4 定理3（阐述收敛矩阵和矩阵范数之间的关系）

定理 3: 若矩阵范数 $\Vert \cdot {\Vert }_M$ 使 $\Vert A{\Vert }_M<1$, 则 ${\mathbf{A}}^k\to 0$
证明: $\rho (A)\le \Vert A{\Vert }_M<1\Rightarrow A^k\to 0$

2. 矩阵级数

定义: 设有矩阵序列 $\left\{A^{(k)}\right\}$, 其中 $A^{(k)}=\left[a_{ij}^{(k)}\right]\in C^{m\times n}$ 称 $A^{(0)}+A^{(1)}+\cdots +A^{(k)}+\cdots$ 为矩阵级数。记为 ${\sum }_{k=0}^{\infty }{A}^{(k)}$ 部分和 $S^{(N)}={\sum }_{k=0}^N{A}^{(k)}$ 构成矩阵序列 $\left\{S^{(N)}\right\}$

2.1 敛散性

定义：
若 ${\lim }_{N\to \infty }{S}^{(N)}=S$, 称 $\sum A^{(k)}$ 收敛于 $S$, 记做 $\sum A^{(k)}=S$
若 $\left\{S^{(N)}\right\}$ 发散, 称 $\sum A^{(k)}$ 发散

性质：

1. $\sum A^{(k)}=S⟺{\sum }_{k=0}^{\infty }{a}_{ij}^{(k)}=s_{ij}(\begin{array}{ll}\text{ all }& i,j)\end{array}$
2. 若 $\sum \left|a_{ij}^{(k)}\right|$ 收敛 $(alli,j)$, 称 $\sum A^{(k)}$ 绝对收敛。

(1) $\sum A^{(k)}$ 绝对收敛 $\Rightarrow \sum A^{(k)}$ 收敛
(2) 若 $\sum A^{(k)}$ 绝对收敛于 $S$, 对 $\sum A^{(k)}$ 任意重组重排得 $\sum B^{(k)}$, 则 $\sum B^{(k)}$ 绝对收敛于 $S$ 。

3. $\sum A^{(k)}=S$ 绝对收敛 $\iff \forall \Vert \cdot \Vert ,\sum \Vert A^{(k)}\Vert$ 收敛
4. $\sum A^{(k)}$ 收敛于 $S\Rightarrow {\sum }_{k=0}^{\infty }P{A}^{(k)}Q$ 收敛于 $PSQ$
   $\sum A^{(k)}$ 绝对收敛 $\Rightarrow {\sum }_{k=0}^{\infty }P{A}^{(k)}Q$ 绝对收敛
5. 若${\sum }_{k=1}^{\infty }{A}^{(k)}$ 绝对收敛于 $S_{mxx},{\sum }_{k=1}^{\infty }{B}^{(k)}$ 绝对收玫于 $T_{nxl}$
   则Cauchy积$A^{(1)}{B}^{(1)}+\left[A^{(1)}{B}^{(2)}+A^{(2)}{B}^{(1)}\right]+\left[A^{(1)}{B}^{(3)}+A^{(2)}{B}^{(2)}+A^{(3)}{B}^{(1)}\right]$ $+\cdots +\left[A^{(1)}{B}^{(k)}+A^{(2)}{B}^{(k-1)}+\cdots +A^{(k)}{B}^{(1)}\right]+\cdots$
   绝对收敛于 $ST$, 记作 $\sum A^{(k)}\cdot \sum B^{(k)}=ST$

2.2 Neumann级数

定义：$A_{n\times n},{\sum }_{k=0}^{\infty }{A}^k,\left(A^0=I\right)$

性质：$A_{n\times n}$

1. $\sum A^k$收敛$$\begin{gathered} \iff A^k\to 0 \\ \sum A^k \end{gathered}$$收敛时, 其和为$(I-A{)}^{-1}$
2. $\Vert A\Vert <1\Rightarrow \Vert (I-A{)}^{-1}-{\sum }_{k=0}^N{A}^k\Vert \le \frac{\Vert A{\Vert }^{N+1}}{1-\Vert A\Vert },N=0,1,2$

2.3 幂级数

幂级数: 对函数 $f(z)=\sum c_k{z}^k,(|z|<r)$ 方阵 $A_{n\times n}$, 构造矩阵幕级数 $f(A)=\sum c_k{A}^k$
谱半径：对 $\forall A\in C^{n\times n}$, 谱半径为 $\rho (A)={\max }_i\left|{\lambda }_i\right|$
定理 6 :
(1) $\rho (A)<r\Rightarrow \sum c_k{A}^k$ 绝对收敛
(2) $\rho (A)>r\Rightarrow \sum c_k{A}^k$ 发散

2.4 代入规则

性质(代入规则): 若 $f(z)=g(z)$, 则 $f(A)=g(A)$.

设一元函数 $f(z)$ 能展开为 $z$ 的幕级数
$$f(z)=\sum _{k=0}^{\infty }{c}_k{z}^k(|z|<r,r>0)$$其中 $r>0$ 表示该幂级数的收敛半径。当 $\mathrm{n}$ 阶矩阵 $\mathrm{A}$ 的 谱半径 $\rho (A)<r$ 时, 把收玫的矩阵幂级数 ${\sum }_{k=0}^{\infty }{c}_k{A}^k$ 的和 为 $f(\mathrm{A})$, 即 $f(A)={\sum }_{k=0}^{\infty }{c}_k{A}^k$

2.5 级数展开式

$e^z=1+\frac{1}{1!}z+\cdots +\frac{1}{k!}{z}^k+\cdots (r=+\infty )$
$e^A=I+\frac{1}{1!}A+\cdots +\frac{1}{k!}{A}^k+\cdots \left(\forall A_{n\times n}\right)$
$\sin z=z-\frac{1}{3!}{z}^3+\cdots +(-1{)}^k\frac{1}{(2k+1)!}{z}^{(2k+1)}+\cdots (r=+\infty )$
$\sin A=A-\frac{1}{3!}{A}^3+\cdots +(-1{)}^k\frac{1}{(2k+1)!}{A}^{(2k+1)}+\cdots \left(\forall A_{n\times n}\right)$
$\frac{1}{1-z}={\sum }_{k=0}^{\infty }{z}^k(|z|<1)$
$\frac{1}{I-A}={\sum }_{k=0}^{\infty }{A}^k(\rho (A)<1)$

2.6 定理7

一般来说，$e^{A+B}\ne e^A{e}^B\ne e^B{e}^A$
但$A_{n\times n},B_{n\times n},AB=BA\Rightarrow e^{A+B}=e^A{e}^B=e^B{e}^A$

3. 矩阵函数（以矩阵为自变量且取值为矩阵的一类函数）

3.1 矩阵函数值的求法——待定系数法

例6: $A=\left[\begin{array}{ccc}2& 0& 0\\ 1& 1& 1\\ 1& -1& 3\end{array}\right],$ 求 $e^A,e^{tA}(t\in R)$

第一步：
$\phi (\lambda )=\det (\lambda I-A)=(\lambda -2{)}^3$
$(A-2I)=\left[\begin{array}{ccc}0& 0& 0\\ 1& -1& 1\\ 1& -1& 1\end{array}\right],(A-2I{)}^2=O$
取 $\psi (\lambda )=m(\lambda )=(\lambda -2{)}^2，\psi (\lambda )为首一多项式且可被\det (\lambda I-A)整除且是Jordan中的最高次$
第二步：
(1) $f(\lambda )=e^{\lambda }=\psi (\lambda )g(\lambda )+(a+b\lambda )，其中f\left({\lambda }_i\right)=\sum c_k{\lambda }_i^k绝对收敛$
$f^{\prime }(\lambda )=e^{\lambda }=[\psi (\lambda )g(\lambda ){]}^{\prime }+b$
$\begin{array}{rl}f(2)=e^2:& (a+2b)=e^2\\ f^{\prime }(2)=e^2:& b=e^2\end{array}\}\{\begin{array}{l}a=-e^2\\ b=e^2\end{array}$
$e^A=e^2(A-I)=e^2\left[\begin{array}{ccc}1& 0& 0\\ 1& 0& 1\\ 1& -1& 2\end{array}\right]$

3.2 数项级数求和法

例7: $A=\left[\begin{array}{cccc}\pi & 0& 0& 0\\ & -\pi & 0& 0\\ & & 0& 1\\ & & & 0\end{array}\right]$, 求 $\sin A$

解: $\phi (\lambda )=|\lambda I-A|={\lambda }^4-{\pi }^2{\lambda }^2$, 取 $\psi (\lambda )=\phi (\lambda )$ $\psi (A)=0\Rightarrow A^4={\pi }^2{A}^2,A^5={\pi }^2{A}^3,A^7={\pi }^4{A}^3,\cdots$ $\sin A=A-\frac{1}{3!}{A}^3+\frac{1}{5!}{A}^5-\frac{1}{7!}{A}^7+\cdots$ $\begin{array}{rl}=& A+\left[-\frac{1}{3!}+\frac{{\pi }^2}{5!}-\frac{{\pi }^4}{7!}+\cdots \right]A^3\\ =& A+\frac{1}{{\pi }^3}[\sin \pi -\pi ]A^3=A-\frac{1}{{\pi }^2}{A}^3=\left[\begin{array}{llll}0& 0& 0& 0\\ & 0& 0& 0\\ & & 0& 1\\ & & & 0\end{array}\right]\\ & \because A^3=\mathrm{diag}\left({\pi }^3,-{\pi }^3,0,0\right)\end{array}$

3.3 对角阵法

设 $P^{-1}AP=\mathrm{diag}\left({\lambda }_1,\cdots ,{\lambda }_n\right)=\Lambda$, 则 $A^k=P{\Lambda }^k{P}^{-1}$
$f(A)={\sum }_{k=0}^{\infty }{c}_k{A}^k=P\cdot \mathrm{diag}\left(f\left({\lambda }_1\right),\cdots ,f\left({\lambda }_n\right)\right)\cdot P^{-1}$

3.4 Jordan标准形法

4. 矩阵函数利用Jordan标准形进行定义

设 $P^{-1}AP=J=\mathrm{diag}\left(J_1,\cdots ,J_s\right),J_i={\lambda }_{i}I+I^{(1)}$
  如果 $f(z)$ 在 ${\lambda }_i$ 处有 $m_i-1$ 阶导数, 令
  $f\left(J_i\right)={\sum }_{k=0}^{\infty }{c}_k{J}_i^k=f\left({\lambda }_i\right)I+\frac{f^{\prime }\left({\lambda }_i\right)}{1!}{I}^{(1)}+\cdots +\frac{f^{\left(m_i-1\right)}\left({\lambda }_i\right)}{\left(m_i-1\right)!}{I}^{\left(m_i-1\right)}$
  $f(A)={\sum }_{k=0}^{\infty }{c}_k{A}^k=P\cdot {\sum }_{k=0}^{\infty }{c}_k{J}^k\cdot P^{-1}=P\cdot \mathrm{diag}\left(f\left(J_1\right),\cdots ,f\left(J_s\right)\right)\cdot P^{-1}$
称 $f(A)$ 为对应于 $f(z)$ 的矩阵函数

例题：
$A=\left[\begin{array}{llll}2& 1& & \\ & 2& 1& \\ & & 2& 1\\ & & & 2\end{array}\right],f(z)=\frac{1}{z}$, 求 $f(A)$
$A=\left[\begin{array}{lll}1& 1& 0\\ 0& 1& 0\\ 0& 0& 2\end{array}\right],f(z)=\sqrt{z}$, 求 $f(A)$
步骤：
先求矩阵的Jordan型，需要jordan矩阵和P（ $P^{-1}AP=J=\mathrm{diag}\left(J_1,\cdots ,J_s\right)$）
再套公式求$f\left(J_i\right)=f\left({\lambda }_i\right)I+\frac{f^{\prime }\left({\lambda }_i\right)}{1!}{I}^{(1)}+\cdots +\frac{f^{\left(m_i-1\right)}\left({\lambda }_i\right)}{\left(m_i-1\right)!}{I}^{\left(m_i-1\right)}$
最后$f(A)=P\cdot \mathrm{diag}\left(f\left(J_1\right),\cdots ,f\left(J_s\right)\right)\cdot P^{-1}$

5. 矩阵函数的性质

1. $f(z)=f_1(z)+f_2(z)\Rightarrow f(A)=f_1(A)+f_2(A)$
2. $f(z)=f_1(z)\bullet f_2(z)\Rightarrow f(A)=f_1(A)\bullet f_2(A)=f_2(A)\cdot f_1(A)$

6. 矩阵的微分和积分（对自变量）

微分定义:
  如果矩阵 $A(t)={\left(a_{ij}(t)\right)}_{m\times n}$, 的每一个元素 $a_{ij}(t)$ 是变量 $t$ 的可微函数, 则 $A(t)$ 关于 $t$ 的导数 (微商) 定义为 $\frac{dA(t)}{dt}={\left(a_{ij}^{\prime }(t)\right)}_{m\times n}$, 或者 $A^{\prime }(t)={\left(a_{ij}^{\prime }(t)\right)}_{m\times n}$

微分性质：
定理8: 设 $\mathbf{A}(\mathbf{t}),\mathbf{B}(\mathbf{t})$ 可导, 则有
(1) $\frac{d}{dt}[A(t)+B(t)]=\frac{d}{dt}A(t)+\frac{d}{dt}B(t)$
(2) $A_{m\times n},f(t)$ 可导 $\frac{d}{dt}[f(t)A(t)]=f^{\prime }(t)A(t)+f(t)A^{\prime }(t)$
(3) $A_{m\times n},B_{n\times l}:\frac{d}{dt}[A(t)B(t)]=A^{\prime }(t)B(t)+A(t)B^{\prime }(t)$
定理9: 设 $A_{n\times n}$ 为常数矩阵, 则有
(1) $\frac{d}{dt}{e}^{tA}=A{e}^{tA}=e^{tA}A$
(2) $\frac{d}{dt}\cos (tA)=-A\cdot \sin (tA)=-\sin (tA)\cdot A$
(3) $\frac{d}{dt}\sin (tA)=A\cdot \cos (tA)=\cos (tA)\cdot A$

积分定义：
  如果矩阵 $A(t)={\left(a_{ij}(t)\right)}_{m\times n}$ 的每一个元素 $a_{ij}(t)$ 在 $\left[t_0,t\right]$ 上可积, 称 $A(t)$ 可积, 记为 ${\int }_{t_0}^{t}A(\tau )d\tau ={\left({\int }_{t_0}^t{a}_{ij}(\tau )d\tau \right)}_{m\times n}$
积分性质：
(1) ${\int }_{t_0}^t[A(\tau )+B(\tau )]d\tau ={\int }_{t_0}^{t}A(\tau )d\tau +{\int }_{t_0}^{t}B(\tau )d\tau$
(2) $A$ 为常数矩阵: ${\int }_{t_0}^t[A\bullet B(\tau )]d\tau =A\cdot \left[{\int }_{t_0}^{t}B(\tau )d\tau \right]$
$B$ 为常数矩阵: ${\int }_{t_0}^t[A(\tau )\cdot B]d\tau =\left[{\int }_{t_0}^{t}A(\tau )d\tau \right]\cdot B$
(3) 设 $a_{ij}(t)\in C\left[t_0,t_1\right]$ 则: $\frac{d}{dt}{\int }_{t_0}^{t}A(\tau )d\tau =A(t)$
(4) 设 $a_{ij}^{\prime }(t)\in C\left[t_0,t_1\right]$, 则: ${\int }_{t_0}^{t_1}{A}^{\prime }(\tau )d\tau =A\left(t_1\right)-A\left(t_0\right)$

7. 函数对矩阵的导数(包括向量)

定义: 设 $X={\left({\xi }_{ij}\right)}_{m\times n},mn$ 元函数
$$f(X)=f\left({\xi }_{11},{\xi }_{12},\cdots ,{\xi }_{1n},\cdots ,{\xi }_{m\times n}\right)$$
定义 $f(X)$ 对矩阵 $X$ 的导数为
$$\frac{df}{dX}={\left(\frac{\partial f}{\partial {\xi }_{ij}}\right)}_{m\times n}=\left[\begin{array}{ccc}\frac{\partial f}{\partial {\xi }_{11}}& \cdots & \frac{\partial f}{\partial {\xi }_{1n}}\\ ⋮& & ⋮\\ \frac{\partial f}{\partial {\xi }_{m1}}& \cdots & \frac{\partial f}{\partial {\xi }_{mn}}\end{array}\right]$$

8. 函数矩阵对矩阵的导数

定义:
设 $X={\left({\xi }_{ij}\right)}_{m\times n},f_{kl}(X)=f_{kl}\left({\xi }_{11},{\xi }_{12},\cdots ,{\xi }_{1n},\cdots ,{\xi }_{m\times n}\right)$
$\mathbf{F}=\left[\begin{array}{ccc}{f}_{11}& \cdots & f_{1s}\\ ⋮& & ⋮\\ f_{r1}& \cdots & f_{rs}\end{array}\right],\frac{\partial F}{\partial {\xi }_{ij}}=\left[\begin{array}{ccc}\frac{\partial f_{11}}{\partial {\xi }_{ij}}& \cdots & \frac{\partial f_{1s}}{\partial {\xi }_{ij}}\\ ⋮& & ⋮\\ \frac{\partial f_{r1}}{\partial {\xi }_{ij}}& \cdots & \frac{\partial f_{rs}}{\partial {\xi }_{ij}}\end{array}\right]$
则：
$\frac{dF}{dX}=\left(\frac{1}{dX}\right)\otimes dF=\left[\begin{array}{ccc}\frac{\partial F}{\partial {\xi }_{11}}& \cdots & \frac{\partial F}{\partial {\xi }_{1n}}\\ ⋮& & ⋮\\ \frac{\partial F}{\partial {\xi }_{m1}}& \cdots & \frac{\partial F}{\partial {\xi }_{mn}}\end{array}\right]$

9. 转换定理

设 $X_{m\times n}=\left[x_{ij}\right],Y_{p\times q}=\left[y_{ij}\right]$ 矩阵 $A_{p\times m},B_{n\times q},C_{p\times n},D_{m\times q}$ 是 $X$ 的函数, 则下列两条等价
(1) $\frac{\partial Y}{\partial x_{ij}}=A{E}_{ij}B+C{E}_{ij}^{T}D,i=1,\dots ,m;j=1,\dots ,n;E_{ij}\in R^{m\times n}$
(2) $\frac{d{y}_{ij}}{dX}=A^T{E}_{ij}{B}^T+D{E}_{ij}^{T}C,i=1,\dots ,p;j=1,\dots ,q;E_{ij}\in R^{p\times q}$

10. 矩阵分析的应用

例21:
设 $A=\left[\begin{array}{lll}1& 1& 0\\ & 1& 0\\ & & 2\end{array}\right]$ 求 $x^{\prime }(t)=A\bullet x(t)$ 的通解

解: $e^{tA}=\left[\begin{array}{ccc}{e}^t& t{e}^t& 0\\ & e^t& 0\\ & & e^{2t}\end{array}\right]$
$x(t)=e^{tA}c=\left[\begin{array}{c}{c}_1{e}^t+c_{2}t{e}^t\\ c_2{e}^t\\ c_3{e}^{2t}\end{array}\right]$

例22:
矩阵函数 $e^{tA}$ 的列向量 $x_1(t),\cdots ,x_n(t)$ 构成 齐次方程 $x^{\prime }(t)=A\bullet x(t)$ 的基础解系
解: $e^{tA\text{ 可逆 }}\Rightarrow x_1(t),\cdots ,x_n(t)$ 线性无关
取 $c=e_j\Rightarrow x_j(t)=e^{tA}c$ 是 $x^{\prime }(t)=A\cdot x(t)$ 的一个解
通解 $x(t)=e^{tA}c=c_1\bullet x_1(t)+\cdots +c_n\cdot x_n(t)$

例23: 设 $A=\left[\begin{array}{lll}1& 1& 0\\ 1& 0& \\ & 2& \end{array}\right],b(t)=\left[\begin{array}{c}1\\ 0\\ e^{2t}\end{array}\right],x(0)=\left[\begin{array}{c}-1\\ 1\\ 0\end{array}\right]$ 求 $x^{\prime }(t)=A\cdot x(t)+b(t)$ 满足初始条件 $x(0)$ 的特解
$$\begin{array}{c}{e}^{tA}=\left[\begin{array}{ccc}{e}^t& t{e}^t& 0\\ & e^t& 0\\ & e^{2t}& \end{array}\right]\\ e^{-\tau A}b(\tau )=\left[\begin{array}{c}{e}^{-\tau }\\ 0\\ 1\end{array}\right],{\int }_0^t{e}^{-\tau A}b(\tau )d\tau =\left[\begin{array}{c}1-e^{-t}\\ 0\\ t\end{array}\right]\\ x(t)=e^{tA}\cdot \left[\left(\begin{array}{c}-1\\ 1\\ 0\end{array}\right)+\left[\begin{array}{c}1-e^{-t}\\ 0\\ t\end{array}\right]\right]=\left[\begin{array}{c}t{e}^t-1\\ e^t\\ t{e}^{2t}\end{array}\right]\end{array}$$