数据升维到希尔伯特空间

将数据转换到希尔伯特空间

前言

向量空间：也称线性空间(线性空间对加法和数乘是封闭的，即输出结果仍在该空间内)。该空间集合中对应的元素是向量。二维、三维空间中每个点都可用唯一个向量来表示，因此也是向量空间。

内积空间：定义了加法、数乘和内积(向量之间的乘法)的空间。

希尔伯特空间：在另外一种空间(不是熟悉的欧式空间)中定义了另外一种内积、范数等运算，且这些运算仍是完备的，则该空间称为希尔伯特空间。

步骤

1. 定义一个向量空间。首先构造一个映射$\varphi$，该映射使得X变为了$K(.,x)$，为了定义该向量空间，去定义一个线性组合，保证加法和数乘的封闭。

   该线性组合为：设$x_i\in X，a_i\in 实数R，i=1,...m，f(.)=\sum a_{i}k(.,x_i)，该线性组合的f构成集合S，S即为一个向量空间$，该空间对加法和数乘都封闭。

2. 在向量空间$S$上定义内积$\ast$，得到内积空间S。该定义为设对任意 $f,g\in S，k为对称函数，则f\ast g={\sum }_{i=1}^m{\sum }_{j=1}^l{\alpha }_i{\beta }_{j}k(x_i,z_j)$。
   定义内积需满足四个条件，即上式需要满足以下条件：

   $$1.(cf)\ast g=c(f\ast g)，c\in R$$

   $$2.(f+g)\ast h=f\ast h+g\ast h$$

   $$3.f\ast g=g\ast f$$

   $$4.f\ast f=>0，特别地，f\ast f=0等价于f=0$$

3. 在$S$上定义范数$||f||=\sqrt{f\ast f}$，获得赋范线性空间S。

4. 在泛函中，已经被证明，赋范线性空间可以完备化，因此得到希尔伯特空间S。

• Note: 在上述的转化过程中，我们可以明白该希尔伯特空间中的核函数具有再生性，即原始的$f(.)={\sum }_{i=1}^m{\alpha }_{i}k(.,x_i)$，$(.)f$里面的 . 就是要输入的量，则可由公式$k(.,x)\ast f={\sum }_{i=1}^m{\alpha }_{i}k(x,x_i)$展示出该核的再生性，同时由公式$k(.,x)\ast k(.,z)=k(x,z)=\varphi (x)\ast \varphi (z)$也可以看出。

---

以上就是全部内容