矩阵分析与应用-1.10-Hadamard积与Kronecker积

前言

一、矩阵的直和

1. 直和定义

定义 1: $m\times m$ 矩阵 $A$ 与 $n\times n$ 矩阵 $B$ 的直和记作 $A\oplus B$, 它是一个 $(m+n)\times (m+n)$ 的矩阵, 定义为

$$A\oplus B=\left[\begin{array}{cc}A& O_{m\times n}\\ O_{n\times m}& B\end{array}\right]\text{\hspace{1em}(1)}$$

只是在对角线上堆加元素, 和求和并无关系, 有点像分块矩阵那种感觉. 当然也可以定义多个矩阵的直和.

$$B=\underset{i=0}{\stackrel{N-1}{\oplus }}{A}_i=A_0\oplus A_1\oplus \cdots \oplus A_{N-1}=\left[\begin{array}{cccc}{A}_0& & & \\ & A_1& & \\ & & \ddots & \\ & & & A_{N-1}\end{array}\right]\text{\hspace{1em}(2)}$$

2. 直和性质

根据定义直和有一些性质:

• 若 $c$ 是常数, 则 $c(A\oplus B)=cA\oplus cB$

• 若 $A\ne B$, 则 $A\oplus B\ne B\oplus A$

• 矩阵直和的复共轭、转置、复共轭转置与逆矩阵

$$\begin{array}{rl}(A\oplus B{)}^{\ast }& =A^{\ast }\oplus B^{\ast }\\ (A\oplus B{)}^{\mathrm{T}}& =A^{\mathrm{T}}\oplus B^{\mathrm{T}}\\ (A\oplus B{)}^{\mathrm{H}}& =A^{\mathrm{H}}\oplus B^{\mathrm{H}}\\ (A\oplus B{)}^{-1}& =A^{-1}\oplus B^{-1},A,B可逆\end{array}$$

• 若 $A,B$ 为 $m\times m$ 矩阵, 且 $C,D$ 为 $n\times n$ 矩阵, 则

$$\begin{array}{rl}(A\pm B)\oplus (C\pm D)& =(A\oplus C)\pm (B\oplus D)\\ (A\oplus C)(B\oplus D)& =AB\oplus CD\end{array}$$

• 若 $A,B,C$ 分别是 $m\times m,n\times n,p\times p矩阵$, 则

$$A\oplus (B\oplus C)=(A\oplus B)\oplus C=A\oplus B\oplus C$$

• 矩阵直和的迹、秩、行列式:

$$\begin{array}{rl}\mathrm{t}\mathrm{r}(\underset{i=0}{\stackrel{N-1}{\oplus }}{A}_i)& =\sum _{i=0}^{N-1}\mathrm{t}\mathrm{r}(A_i)\\ \mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(\underset{i=0}{\stackrel{N-1}{\oplus }}{A}_i)& =\sum _{i=0}^{N-1}\mathrm{r}\mathrm{a}\mathrm{n}\mathrm{k}(A_i)\\ \mathrm{d}\mathrm{e}\mathrm{t}(\underset{i=0}{\stackrel{N-1}{\oplus }}{A}_i)& =\prod _{i=0}^{N-1}\mathrm{d}\mathrm{e}\mathrm{t}(A_i)\end{array}$$

• 若 $A,B$ 分别是 $m\times m,n\times n$ 正交矩阵, 则 $A\oplus B$ 是 $(m+n)\times (m+n)$ 正交矩阵.

二、$\mathrm{H}\mathrm{a}\mathrm{d}\mathrm{a}\mathrm{m}\mathrm{a}\mathrm{r}\mathrm{d}$ 积

1. $\mathrm{H}\mathrm{a}\mathrm{d}\mathrm{a}\mathrm{m}\mathrm{a}\mathrm{r}\mathrm{d}$ 积定义

定义 2: $m\times n$ 矩阵 $A=[a_{ij}]$ 与 $m\times n$ 矩阵 $B=[b_{ij}]$ 的 $\mathrm{H}\mathrm{a}\mathrm{d}\mathrm{a}\mathrm{m}\mathrm{a}\mathrm{r}\mathrm{d}$ 积记作 $A\odot B$, 它仍是一个 $m\times n$ 矩阵, 定义为

$$A\odot B=[a_{ij}{b}_{ij}]\text{\hspace{1em}(3)}$$

不得不说这比矩阵乘法简单多了.

定理 1: 若 $m\times m$ 矩阵 $A,B$ 是正定 (或半正定) 的, 则它们的 $\mathrm{H}\mathrm{a}\mathrm{d}\mathrm{a}\mathrm{m}\mathrm{a}\mathrm{r}\mathrm{d}$ 积 $A\odot B$ 也是正定 (或半正定) 的.

推论 1($\mathrm{F}\mathrm{e}\mathrm{j}\mathrm{e}\mathrm{r}$ 定理): 令 $A$ 是一个 $m\times m$ 矩阵, 则 $A$ 是半正定矩阵, 当且仅当

$$\sum _{i=1}^m\sum _{j=1}^m{a}_{ij}{b}_{ij}\ge 0$$

对所有 $m\times m$ 半正定矩阵 $B$ 成立.

定理 2: 令 $A,B,C$ 为 $m\times n$ 矩阵, 并且 $1=[1,1,\dots ,1{]}^{\mathrm{T}}$ 为 $n\times 1$ 求和向量, $D=\mathrm{d}\mathrm{i}\mathrm{a}\mathrm{g}(d_1,d_2,\dots ,d_m)$, 其中, $d_i={\sum }_{j=1}^n{a}_{ij}$, 则

$$\mathrm{t}\mathrm{r}\left(A^{\mathrm{T}}(B\odot C)\right)=\mathrm{t}\mathrm{r}\left((A^{\mathrm{T}}\odot B^{\mathrm{T}})C\right)\text{\hspace{1em}(4)}$$

和

$$1^{\mathrm{T}}{A}^{\mathrm{T}}(B\odot C)1=\mathrm{t}\mathrm{r}(B^{\mathrm{T}}DC)\text{\hspace{1em}(5)}$$

定理 3: 令 $A,B$ 为 $n\times n$ 正方矩阵, 并且 $1=[1,1,\dots ,1{]}^{\mathrm{T}}$ 为 $n\times 1$ 求和向量. 假定 $M$ 是一个 $n\times n$ 对角矩阵 $M=\mathrm{d}\mathrm{i}\mathrm{a}\mathrm{g}({\mu }_1,{\mu }_2,\dots ,{\mu }_n)$, 而 $m=M1$ 为 $n\times 1$ 向量, 则有

$$\mathrm{t}\mathrm{r}(AM$$