内积空间、赋范向量空间、Banach空间和Hilbert空间

[1]张贤达.矩阵分析与应用[M].清华大学出版社:北京,2004:23-25.

向量空间

 以向量为元素的集合$V$称为向量空间，若加法运算定义为两个向量之间的加法，乘法运算定义为两个向量与标量域$S$中的标量之间的乘法，并且对于向量集合$V$中的向量和标量域$S$的标量满足两个闭合性和关于加法和乘法的8个公理。
 
 闭合性：

1. 若$\mathbf{x}\in V$和$\mathbf{y}\in V$，则$\mathbf{x}+\mathbf{y}\in V$，称为加法的闭合性
2. 若$a\in S$是一个标量，$\mathbf{y}\in V$，则$a\mathbf{y}\in V$，称为标量乘法的闭合性

 加法和乘法的8个公理：

1. 加法交换律
2. 加法结合律
3. 在$V$中存在零向量$0$，对$\forall y\in V$，恒有$\mathbf{y}+0=\mathbf{y}$
4. 存在负向量
5. $a(b\mathbf{y})=(ab)\mathbf{y}$
6. $(a+b)\mathbf{y}=a\mathbf{y}+b\mathbf{y}$
7. $a(\mathbf{x}+\mathbf{y})=a\mathbf{x}+b\mathbf{y}$
8. $1\mathbf{y}=\mathbf{y}$，称为标量乘法单位率

内积和内积空间

 定义内积的三个公理：

1. 共轭对称性，$⟨\mathbf{x},\mathbf{y}⟩=⟨\mathbf{y},\mathbf{x}{⟩}^{\ast }$
2. 第一变元的线性性，$⟨\alpha \mathbf{x}+\beta \mathbf{y},\mathbf{z}⟩=\alpha ⟨\mathbf{x},\mathbf{z}⟩+\beta ⟨\mathbf{y},\mathbf{z}⟩$
3. 非负性，$⟨\mathbf{x},\mathbf{x}⟩\ge 0$，并且$⟨\mathbf{x},\mathbf{x}⟩=0\iff \mathbf{x}=0$

 综上可得：
$$⟨\mathbf{x},\mathbf{y}⟩={\mathbf{x}}^H\mathbf{y}=\sum _{i=1}^n{x}_i^{\ast }{y}_i$$
 满足内积三个公理的实向量空间和复向量空间是实内积向量空间和复内积向量空间。

范数和赋范向量空间

 定义范数$p(\mathbf{x}):V\to R$的三个公理：

1. 非负性，$p(\mathbf{x})\ge 0$，并且$p(\mathbf{x})=0\iff \mathbf{x}=0$
2. 齐次性，$p(c\mathbf{x})=|c|\cdot (\mathbf{x})$对任意复常数$c$成立
3. 三角不等式，$p(\mathbf{x}+\mathbf{y})\le p(\mathbf{x})+p(\mathbf{y})$

 满足范数定义的（实或复）向量空间是赋范向量空间

Banach空间

对于赋范向量空间$V$，若对任一柯西序列 { v n } n = 1 ∞ ⊂ V \{\bm{v}_n\}_{n=1}^\infin\subset V {vn​}n=1∞​⊂V，在$V$内存在一个元素$\mathbf{v}$，使得${\lim }_{n\to \infty }{\mathbf{v}}_n\to \mathbf{v}$，则称$V$为Banach空间

Hilbert空间

一个相对于范数完备，即满足范数收敛${\lim }_{n\to \infty }||{\mathbf{v}}_n||\to ||\mathbf{v}||$的赋范向量空间$V$称为Hilbert空间。显然，Banach空间$\supset$Hilbter空间。

总结