傅里叶变换前传：基础知识（卷积、内积、正交）

线性系统和卷积积分

接受一个输入，并产生相应输出的实体就是一个系统。对于一个特定的系统，它的输入、输出可以看做是相同变量的不同函数。

假定一个系统，当其输入为时，输出分别为，若满足【叠加性】，则该系统为线性系统。由此还可以得到，【均匀性 / 齐次性】。

如果对于某线性系统，其输入输出关系为，当输入信号沿着时间轴平移T，有，则称该线性系统具有移不变性（非时变性），就是系统的参数不随时间而变化。

对于一个线性系统的输入和输出，两者之间必定存在关系：

               式（1-1）

其中， 称为线性系统的单位冲激响应函数，也就是当线性系统输入单位脉冲函数 （在除了零以外的点都等于零，而其在整个定义域上的积分等于1）时线性系统的输出响应。式（1-1）就被称为卷积积分，一般用 * 表示。

也可以从下面的变化关系中理解卷积积分的概念。

式（1-1）表示的连续一维卷积积分的运算公式，相应地有：

离散一维卷积：

连续二维卷积： 

离散二维卷积：

最后再引入相关的概念，通过相关和卷积的关系，我们可以在一些情况下较为方便的求解卷积函数：

内积的定义

我们知道，对于 上的两个矢量  和 ，其内积的定义为：

              式（2-1）

内积的定义与矢量的长度是联系起来的，比如我们最熟悉的矢量的长度计算，其实也是内积计算：

                     式（2-2）

在研究傅里叶级数时，我们将会大量用到复指数的概念，因此我们还需要讨论一下复矢量空间。

对于一个复数，它的共轭记为 。我们知道，复数的模的计算公式为：

      式（2-3）

在复矢量空间中，内积的定义有一个小小的改变—— 若 、 是上的两个矢量，那么有：

                                                          式（2-4）

共轭的目的是为了保证上的矢量长度为实数且非负。

同理，复矢量空间中矢量的长度可以表示为：

             式（1-5）

定义了内积的矢量空间称为内积空间（线性赋范空间+内积运算⟶ 内积空间）。

正交

正交是垂直这一直观概念的推广。若内积空间中两向量的内积为0，则称它们是正交的。

函数的正交是向量正交的推广，函数可以看做是无穷维的向量。对于函数集合，其正交性的定义如下：

在这里，有一个非常重要的知识点：

n维向量空间中的所有向量，都可以用一组正交基来表示。更为特殊地，我们将正交基单位化后，可以得到标准正交基，然后向量空间中的所有向量都可以写成比较简单的坐标形式。那我们将“函数”这个概念和“向量”这个概念融合起来，正如刚才所说，函数可以看做是一个“无穷维”的向量，那应的，如果有一组由无穷个两两正交的函数组成的函数组，那么在同一空间中的任何一个函数总能表示成由无穷个该函数组中的函数乘以某个系数的和的形式。

用数学语言来说，如果  就是刚才所说的定义域的一个“正交函数集合”，那么该定义域内的任一函数都可以表示为：

正交函数集合的完备性就体现在：