泛函分析和他的基础概念
泛函分析属于一个半老不新的概念,出现将近百年,因为脱身于理论物理,多多少少带点高冷范儿,不过在日常分析中,具有非常广阔的应用。
- 泛函分析牛逼在哪?
给予了函数这一概念更为一般的意义。
泛函分析出现之前,古典分析中的函数用于表示两个集合之间的对应关系。现在数学为了方便发明theory(发明的主要目的就是为了发paper,科研狗T_T)却更倾向于探索两个任意集合之间的某种对应关系。
这里普及两个概念:
2.1 无限维空间到无限维空间的变换称为算子。
2.2 泛函数就是函数的函数,即一般函数自变量和因变量都是实数,泛函数自变量是函数,因变量是实数。
为啥泛函数要这么绕呢,因为函数的力量是有极限的,比如绝大多数的线性回归在训练到最优点以后都是有误差的,泛函提供了一个升维度的思路,让我们不再考虑输入数据的最优化处理,而是函数空间甚至抽象空间中考虑问题,给我们提供了一种超越传统工具的力量,当然也给计算量和算法师的发际线造成了降维打击。
而我们说的泛函分析则是知道所有围绕算子和泛函数在无限维的线性空间中进行的工作。
-怎么观察无限维线性空间?
终于到了比较能吹牛逼的 比较抽象的部分了。怎么理解空间,特别是4维以上以至于无限维,答案是没有太直观的方式。因为高维空间无法可视化,那怎么办呢,数学家的思路是如果我们无法知道高维空间中每一个点的具体位置,那我们就引入两个点,然后通过这两个点的距离来给我们一些高维世界的空间感,所以我们可以看到泛函分析中大量的空间定义都是需要两个点的,利用点与点的距离来建立对高维空间的认知,机器学习中的kernel function(核函数)其实就是这一思路的一个比较出色的应用。所以至此,我们对高维空间的定义从公整的坐标系变成了不规则,像香肠一样的流形,但同时,我们也获得了计算高维空间函数的能力,A.K.A. kernel trick。