用泛函分析解释各种算法

1，信号处理中x(n)是一个信号，系统的属性有线性、因果性、时变时不变性、稳定性，一个线性时不变系统称为LTI。系统的输入是信号，系统是将信号通过算法或操作进行计算。一个离散信号可以被写成用脉冲信号分解的形式，如下式（1-1）：

这个形式让我想起了傅立叶级数，其实两者都由异曲同工之妙。而傅立叶级数的存在性泛函分析里做了明确的解释和证明，大体即是连续函数空间是一个hilbert空间，而任何hilbert空间都可以找到一组正交基，当然任何元素都可以被这组正交基来表示。当然这些都不是主要我想表达的。

而一个信号处理系统中，用卷积的形式来描述系统，首先把信号转换成式（1-1）的形式。这一步在泛函分析中可以描述为将vector space中的一个元素表示成其一组基的组合。

在系统是LTI的情况下，前面已经说了，系统是一种运算，LTI系统是线性时不变，在泛函分析中LTI可以认为是一个operator，operator即是vector space之间的映射，系统将信号从一个vector space 映射到另一个vector space，泛函分析中又说此operator可以被描述为一个矩阵，而2个vector space中的基固定的情况下，线性operator的矩阵是固定的，而此opeator的输入向量空间中的任何元素都可以用这组基的线性组合来表示，因此引出了信号处理书中的结论，就算书里没有也可以得到一个结论就是一个LTI可以被描述成一个固定的矩阵，这个矩阵或是有限或无限大小的。看书上结果和我推理的差不多，反正都是依靠基来联系的：

时变和时不变解释：信号必然有的参数时间参数，系统也一样，单纯的信号延迟和系统延迟是否相等是时变与时不变问题。简单的解释即是时变是函数有两个自变量分别是时间和延迟；时不变则只有一个自变量。

在LTI系统中，矩阵是确定了的，因为他的输出空间是一维的，所以他不是一个矩阵而是一个向量，这个向量是确定的，比如可以是这样：

那么h(n)里面的n是一个指针，比如0时指的是2，如果让它和一个信号卷积，卷积公式如下：

可以见到变量是k，而n是固定的，所以说让m=n-k，因此也把h（n）的确定的向量给变换一个，首先反转，再移位，最后卷积。

2，同理应用以上泛函分析理论可解释线性感知器。同时也让我联想到连续函数空间的一组基是一组函数，如三角正交基，利用此基和scalar来表示连续函数空间的任何函数，此基的作用与sigmoid函数相类似。