矩阵复习提纲

目录

• 约定
  • $\omega =e^{-\frac{2\pi }{N}}$
  • ${\omega }_i=e^{-\frac{2i\pi }{N}}$

代数基础

• 矩阵与向量
  • 零空间 $N(A)$
  • 像空间 $R(A)$
• (列)秩
  • $\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A)=\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A^T)=\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A^{T}A)=\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A{A}^T)$
  • $\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A)=\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A^H)=\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A^{H}A)=\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A{A}^H)$
• 线性空间
  • 线性无关
  • 基底张成原空间
  • 基底表示的唯一性
• 线性空间的运算
  • $S\cap T$
  • $S+T$
  • $S\oplus T$
• 范数空间&内积空间
  • 正交性
    • 贝塞尔不等式
    • 帕塞瓦尔等式
  • 内积空间 $⟹$ 范数空间
    • $\Vert x\Vert =\sqrt{⟨x,x⟩}$
  • 范数空间 $⟹$ 内积空间
    • Reproducing Kernel Hilbert Space
    • Mercer Theorem / Moore Aronszajn Theorem
    • Jordan von Neumann Theorem

内积空间

• $⟨x,ky⟩⩽\frac{1}{2}\left(⟨x,x⟩+k^2⟨y,y⟩\right)$
• $⟨x,y⟩⩽\frac{⟨x,x⟩+⟨y,y⟩}{2}$
• $⟨x,y⟩⩽\sqrt{⟨x,x⟩⟨y,y⟩}$

算子范数

• $\Vert AB\Vert ⩽\Vert A\Vert \Vert B\Vert$
• $\Vert A{\Vert }_1=\underset{j}{\max }\sum _i|A_{ij}|$
• $\Vert A{\Vert }_{\infty }=\underset{i}{\max }\sum _j|A_{ij}|$
• $\Vert A{\Vert }_2=\underset{k}{\max }{\sigma }_k(A)$
  • $\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{d}(A)=\Vert A\Vert \Vert A^{-1}\Vert$
  • ${\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{d}}_2(A)=\frac{{\sigma }_{\max }(A)}{{\sigma }_{\min }(A)}=\frac{{\sigma }_1(A)}{{\sigma }_n(A)}$
• $\Vert A{\Vert }_F=\sqrt{\sum _k{\sigma }_k^2(A)}$

矩阵基础

• (共轭)转置与乘积
  • $(AB{)}^T=B^T{A}^T$
  • $(AB{)}^H=B^H{A}^H$
• 二次型&(半)正定性
  • $x^{H}Ax⩾0⟺A\succcurlyeq 0$
  • $A\succcurlyeq 0⟺{\lambda }_i(A)⩾0$
  • 矩阵正定当且仅当顺序主子式均大于零(Sylvester’s criterion)
• 求逆
  • $(AB{)}^{-1}=B^{-1}{A}^{-1}$
• 行列式
  • $\det (AB)=\det (BA)=\det (A)\det (B)$
  • $\det (A)=\prod _{i=1}^n{\lambda }_i(A)$
• 迹
  • $\mathrm{t}\mathrm{r}(AB)=\mathrm{t}\mathrm{r}(BA)$
  • $\mathrm{t}\mathrm{r}(A)=\sum _{i=1}^n{\lambda }_i(A)$
• 特征值
  • $Av=\lambda v$
  • $\det (A-\lambda I)=0$
    • $A\in M_{n\times n}(\mathbb{R})⟹(\det (A-\lambda I)=0⟹\det (A-\bar{\lambda }I)=0)$
    • $\det (B^{-1}AB-\lambda I)=\det (A-\lambda I)$ (相似矩阵)
  • $\lambda (AB)=\lambda (BA)$
    • $AB=A^{-1}(BA)A$
  • $AV=V\Lambda$
    • 如果$A$可对角化 $A=V\Lambda V^{-1}$ (几何重数=代数重数) (特征向量线性无关张成全空间)
      • $A=$