矩阵理论之线性代数基础（一）

一、线性空间和子空间的基本概念

数域：对加减乘除运算封闭，包含0，1的所有数称为数域。

线性空间：设V是一个非空集合，P是一个数域，在V中定义了一种代数运算加法，使得对于V中任意两元$\alpha ,\beta$，在V中都有唯一的一个元$v$与之对应，称为$v$为$\alpha$与$\beta$的和，记$v=\alpha +\beta$。在P中还对应一种数乘运算，对于P中任一数$k$与V中任一元$\alpha$相乘，在V中都有唯一元$\delta$与之对应，记为$\delta =k\ast \alpha$。如果加法与数乘满足下列规则：

• $\alpha +\beta =\beta +\alpha$
• $(\alpha +\beta )+v=\alpha +(\beta +v)$
• $\exists 0\in V,\forall \alpha \in V,\alpha +0=\alpha$，这里0元素不一定是数值上的1，不同空间有不同的零元素。
• $\forall \alpha \in V,\exists \beta \in V,\alpha +\beta =0$
• $1\alpha =\alpha$
• $k(l\alpha )=(kl)\alpha$
• $(k+l)\alpha =k\alpha +l\alpha$
• $k(\alpha +\beta )=k\alpha +k\beta$
  则称V是数域P上的线性空间(向量空间)。
  TIPs：线性空间一定要满足加法和数乘这八条性质。线性空间对加法和数乘封闭。

线性空间维数定义：在线性空间V中存在n个线性无关的向量${\alpha }_1,\cdots ,{\alpha }_n$，而V中任意n+1个向量都线性相关，则V是n维的线性空间，${\alpha }_1,\cdots ,{\alpha }_n$称为V的一组基。$dimV=n$

子空间：设V是一个线性空间，W是V的一非空子集，W关于V的加法和数乘也构成一个线性空间，则称W是V的线性子空间。非零线性子空间至少有两个子空间，零子空间 { 0 } \{0\} {0}和它本身。$dimW<dimV$。
TIPs:证明线性空间W和V相同只需要证明二者维度相同即可。
一些结论：两个字空间的交集仍是子空间，两个在空间的交集不一定是子空间

二、矩阵分类

1、对称矩阵($A=A^T$)

$a_{ij}=a_{ji}$

2、反对称矩阵($A=-A^T$)

$a_{ij}=-a_{ji}$

3、hermite矩阵($A=A^H$)

$a_{ij}=\overline{a_{ji}}$，复数域的对称矩阵

4、反hermite矩阵($A=-A^H$)

$a_{ij}=-\overline{a_{ji}}$，复数域的反对称矩阵

5、正交矩阵($A{A}^T=E$)

6、酉矩阵($A{A}^H=E$)

复数域的正交矩阵

7、对角矩阵

除对角线元素全为0的矩阵

三、空间分解和维数定理

\quad 设$V_1,V_2$是线性空间$V$的线性子空间，则$$dim(V_1)+dim(V_2)=dim(V_1+V_2)+dim(V_1\cap V_2)$$
证明：设$dim(U)=s,dim(W)=t,dim(U\cap W)=r$，
任取$U\cup W$的一组基${\alpha }_1,\cdots ,{\alpha }_r$，
则$U$的一组基是${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s,{\beta }_1,\cdots ,{\beta }_{s-r}$，
$W$的一组基是${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s,{\gamma }_1,\cdots ,{\gamma }_{t-r}$，
则${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_s,{\beta }_1,\cdots ,{\beta }_{s-r}{\gamma }_1,\cdots ,{\gamma }_{t-r}$是$U+W$的一组基。

• 和空间的维数往往比空间维数的和小

四、相似矩阵

\quad 存在可逆矩阵$P$，使得$B=P^{-1}AP$，则$A,B$想似，具有相同的特征值和相同的行列式和相同的迹

五、矩阵的迹

\quad 矩阵的迹为矩阵主对角线元素和，$tr(A)={\sum }_i^n{a}_{ii}={\sum }_i^n{\lambda }_i$

• tr(AB)=tr(A)+tr(B)
• $tr(A{A}^T)={\sum }_{i,j=1}^n|a_{ij}{|}^2$

六、投影矩阵

\quad 设$V_1,V_2$均是$V$的子空间，且$V_1+V_2=V$ , $x\in V,y\in V_1,z\in V_2$，则$x$变为沿着$V_2$到$V_1$的投影变换称为$V_2$到$V_1$的投影算子，记为$T$，即$Tx=y$。投影算子$T$将整个空间$V$变到子空间$V_1$。
\quad 一个重要性质$T^2=T$，即$T$是幂等算子
\quad 幂等矩阵的性质

• $A^H$与$I-A$也是幂等矩阵
• $A$的特征值非0即1
• $rank(A)=tr(A)$
• $A(I-A)=(I-A)A=0$
• $Ax=x,x\in R(A)$
• $N(A)=R(I-A),R(A)=N(I-A)$

七、特征值

特征值性质

• 矩阵A的行列式的值等于其所有特征值的积
• 矩阵A可逆与0不是A的特征值等价

特征向量的性质

• 属于不同特征值的特征向量线性无关
• n阶方阵A可以对角化等价于A有n个线性无关的特征向量，等价于几何重数等于代数重数
• 当几何重数小于代数重数时，不能对角化，但能块对角化