【机器学习中的数学】函数空间

数学的空间

数学中的空间概念是要有研究工作的对象和遵循的规则。其中，包含元素和结构。
如线性结构中，定义加法和数乘；拓扑结构中，要有距离、范数、开集三要素。

距离

范数是具有“长度”概念的函数。
距离、范数可以指向量的距离，我们可以定义以下几种向量的距离：

• d1(x,y)=sqrt((x1-y1)^2 + … + (xn-yn)^2)
• d2(x,y) = max{|x1-y1|, …, |xn-yn|}
• d3(x,y) = |x1-y1|+ …+ |xn-yn|

距离、范数也可以指曲线的距离，即函数f(x)到函数g(x)的距离：

• d1(f,g) = ∫ (f(x)-g(x))^2 dx
• d2(f,g) = max |f(x)-g(x)|
• d3(f,g) = ∫ (f(x)-g(x))^k dx
  以上x都定义在[a,b]之间

接下来我们要去定义距离的抽象概念。
我们要知道，如果一个对象不是具体的，是抽象的，是泛指的，那么我们就抓最重要的属性来描述这个对象，而舍弃其他的属性。

距离的定义：

设X是非空集合，任给一对这一集合的元素x、y，都给定一个实数，d(x,y)与它们对应，并且满足：
(1) 非负性：