[笔记][总结] MIT线性代数 Gilbert Strang 复矩阵

作者水平有限，欢迎大家提出文中错误

复线性空间

重新提一下，线性空间的定义

设$V$是一个非空集合，其元素$x,y,z$被称为向量；$K$是一个数域，有元素$k,l,m$，$V$被称为一个向量空间或线性空间，当：

1. 在$V$中定义加法运算，当$x,y\in V$，有唯一的和$x+y\in V$，且加法满足
   a) 结合律 $x+(y+z)=(z+y)+z$
   b) 交换律 $x+y=y+x$
   c) 存在零元$0$，使$x+0=x$
   d) 每个元素都存在负元素，即$\forall x\in V,\exists y\in V,x+y=0$，称y为x的负元素，记作$-x$
2. 在$V$中定义数乘运算，当$x\in V,k\in K$，有唯一的乘积$kv\in V$，且数乘运算满足：
   e) 数因子分配律 $k(x+y)=kx+ky$
   f) 分配律 $(k+l)x=kx+lx$
   g) 结合律 $k(lx)=(kl)x$
   h) $1x=x$

注意线性空间$V$是基于数域$K$的，一般的默认数域是实数域$\mathbb{R}$，本部分将讨论数域为复数域$\mathbb{C}$的线性空间的中的矩阵运算及性质。

从实数域到复数域

向量模长

实向量$v$的模长是
$$\Vert v\Vert =v^{T}v$$
对于复向量$z$
$$z^{T}z=\sum _{i=1}^n{z}_i\cdot z_i$$
关键问题在于 z i ⋅ z i = R e 2 { z i } − I m 2 { z i } z_i\cdot z_i=Re^2\{z_i\}-Im^2\{z_i\} zi​⋅zi​=Re2{zi​}−Im2{zi​}

而 z i ⋅ z i ˉ = R e 2 { z i } + I m 2 { z i } z_i\cdot \bar{z_i}=Re^2\{z_i\}+Im^2\{z_i\} zi​⋅zi​ˉ​=Re2{zi​}+Im2{zi​}才是正确的求和项
所以对于复向量，其模长为
$$\Vert z\Vert ={\bar{z}}^{T}z$$
其中算子 ${\bar{\cdot }}^T$又被记作 ${\cdot }^H$，叫做$Hermitian$算子
$$\Vert z\Vert =z^{H}z$$

内积

相应的，复向量$x,y$，内积为$x^{H}y$

$Hermitian$矩阵

对于实矩阵而言，要想使得特征值都是实数，且存在相互正交的特征向量，需要$A=A^T$，即实对称矩阵

而对于复矩阵，同样的要求需要$A^H=A$，为$Hermitian$矩阵

可见$Hermitian$矩阵的对角元都是实数

酉矩阵

实标准正交矩阵有性质
$$q_i^T{q}_j=\{\begin{array}{r}0,ifi\ne j\\ 1,ifi=j\end{array}$$
$$Q^{T}Q=I$$
在复空间，与标准正交阵相对应的矩阵称为酉矩阵$U=[u_1{u}_2\cdots u_n]$
$Uforunitary$
$$u_i^H{u}_j=\{\begin{array}{r}0,ifi\ne j\\ 1,ifi=j\end{array}$$
$$U^{H}U=I$$

$Fourier$矩阵

$Fourier$矩阵是十分出名的酉矩阵
$$F_n=\left[\begin{array}{ccccc}1& 1& 1& \cdots & 1\\ 1& w_n& w_n^2& \cdots & w_n^{n-1}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 1& w_n^{n-1}& w_n^{2(n-1)}& \cdots & w_n^{(n-1)(n-1)}\end{array}\right]$$
注意到$F_n$是对称的，但不是对称矩阵，因为$F_n$是复矩阵，另外也不是$Hermitian$矩阵。$Fourier$矩阵的各列是相互正交的，是一个酉矩阵。

通项
$$(F_n{)}_{ij}=w_n^{ij},i,j=0,1\cdots (n-1)$$
其中$w_n=e^{i\frac{2\pi }{n}}$，可见$w_{m\ast n}^m=w_n$，$w_n$在复平面单位圆，辐角为$\frac{2\pi }{n}$

$$F_4=\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& i& i^2& i^3\\ 1& i^2& i^4& i^6\\ 1& i^3& i^6& i^9\end{array}\right]=\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& i& -1& -i\\ 1& -1& 1& -1\\ 1& -i& -1& i\end{array}\right]$$
$F_4$可以完成对一个四维复列向量的离散傅里叶变换

$Fourier$逆矩阵

$F_n^{-1}$同样是十分有用的复矩阵，由于其列向量（或行向量）并不标准（并非单位向量），但是各列向量模长都是$\sqrt{n}$，$F_n^H{F}_n=nI$。
$$F_n^{-1}=\frac{1}{n}{F}_n^H=\frac{1}{n}{\bar{F}}_n$$
$$F_n^{-1}=\frac{1}{n}\left[\begin{array}{ccccc}1& 1& 1& \cdots & 1\\ 1& {\bar{w}}_n& {\bar{w}}_n^2& \cdots & {\bar{w}}_n^{n-1}\\ ⋮& ⋮& ⋮& \ddots & ⋮\\ 1& {\bar{w}}_n^{n-1}& {\bar{w}}_n^{2(n-1)}& \cdots & {\bar{w}}_n^{(n-1)(n-1)}\end{array}\right]$$
上面$F_4$的逆矩阵为
$$F_4^{-1}=\frac{1}{4}\left[\begin{array}{cccc}1& 1& 1& 1\\ 1& -i& -1& i\\ 1& -1& 1& -1\\ 1& i& -1& -i\end{array}\right]$$

$FFT$

$Fourier$矩阵可以使得时域序列变换到频域，十分有用的矩阵，如果直接使用$F_n$左乘时域序列，其时间复杂度是$O(n^2)$，实际上$Fourier$矩阵可以被分解为一系列稀疏矩阵，分解后对序列的变换算法的时间复杂度大大降低到$O(n\cdot logn)$，被称为快速傅里叶变换$(Fastfouriertransformation)$，在[笔记][总结] MIT线性代数 Gilbert Strang 矩阵的应用中有介绍