内积
一、概述
线性空间中的内积是一个二元函数, 它提供一种将几何空间的性质(如向量的长度和夹角、向量之间的距离、三角不等式、勾股定理等)应用到抽象线性空间中向量上,这样可以利用这些几何性质来解决抽象空间中问题(投影问题、函数逼近问题、数据拟合问题等等)。内积提供了一种将抽象空间中的抽象事物映射成具体空间中具体事物的手段。
二、内积的定义
2.1 内积的性质
设
是
实数域
的线性空间(即欧几里得空间),
上的一个内积是
映射
(
是一个将欧几里得空间中的元素变换为实数的二元函数),并记为
。内积
满足三个性质:
- 对称性:
- 双线性:
- 正定性:
- 标准欧几里得空间与标准内积
是
上的标准欧几里得空间,定义
为
上的标准内积。
- 平方可积函数空间
是函数空间
的子集合,其定义为
,其中
,
表示定义域为
,值域为
的函数。
表示空间
中的一个内积。
- 概率论中的内积空间
在概率空间中
:
表示样本集合(sample set),
: 事件的集合(a set of events, each event contains 0 or more samples),
是概率分布函数(assign a probability to an even)。
表示的是概率空间
上有二阶矩的
随机变量的
集合。
例:
的含义是:
是一个随机变量(random variable);其次这个随机变量有有限的二阶矩:
。
是一个线性空间,对于任意的
,定义内积:
。
- 几何空间中的内积
几何空间为集合
={有向线段}={
,
取遍几何空间},几何空间中的内积定义为:对任意
,
。其中符号
表示线段的长度。
- 酉空间
设
是
复数域
的线性空间,
映射
称为
上的一个内积,定义了内积的复线性空间称为复内积空间,
有限维的复内积空间称为酉空间。
是
上的标准酉空间,定义
为
上的标准内积。
2.2 Gram 矩阵
- 设
和是复内积空间中的两个向量组,那个由这两个向量组各组做线性组合的一对向量的内积表示:
定义矩阵
为向量组
和
的交互Gram矩阵,简记为
。对于一个向量组
,其Gram 矩阵记为:
简记为
.
remark 1: 由式(1)可知Gram矩阵
包含空间
与空间