再生核希尔伯特空间(RKHS)漫谈(二)：Mecer‘s Theorem

欢迎访问我的个人博客https://qddmj.cn，有更多最新的内容
RKHS系列文章点此进入

上一章讨论了RKHS相关的定义，我们知道了只要找到一个正定的核函数(positive define kernel)，那么一定有这样一个希尔伯特空间，里面的所有元素可以用$f(x)=⟨f(\cdot ),k(\cdot ,x)⟩,\forall f\in \mathcal{H}$“再生”出来，利用这个性质可以让我们用核函数代替内积。

现在我们准备深入RKHS看看。首先，我们有两条路可以证明核函数可以构成一个RKHS。

1. Mercer’s Theorem
2. Moore-Aronszajn’s Theorem

这一章来证明第一个命题:Mecer’s Theorem。我们上一篇博客给出了核函数的概念，Mecer’s Theorem比核函数的现代定义出现得要早，因此Mercer理论中的核函数定义稍有不同，显得更为严格一些。Moore-Aronszajn’s Theorem是后来发展的，现代用的比较多，它的核函数定义更为宽松，更为一般。

Mercer’s Theorem:

设 $k$ 是$[a,b]\times [a,b]$上的连续、对称的实变函数，假设对所有的$f\in L_2([a,b])$，都有：
$${\int }_a^b{\int }_a^{b}k(t,s)f(s)f(t)dsdt\ge 0.\text{\hspace{1em}(1)}$$
设 $K$ 是以核函数 $k$ 为基础的积分算子，即:
$$(Kf)(t)={\int }_a^{b}k(t,s)f(s)ds\text{\hspace{1em}(2)}$$
设 { ϕ n } , { λ n } \{\phi_n\},\{\lambda_n\} { ϕn​},{ λn​}是算子$K$的特征向量和特征函数，那么对$[a,b]$上所有的 $t$ 和 $s$ ，都有：
$$k(t,s)=\sum _j{\lambda }_j{\varphi }_j(t){\varphi }_j(s).\text{\hspace{1em}(3)}$$
这个级数在$[a,b]\times [a,b]$上绝对收敛并且一致收敛。

Mercer’s Theorem的证明

在Mecer的原论文[3]中，这个证明十分复杂。感兴趣的读者可以去看看这篇1908年的数学论文。我没有耐心看完，当时找了很多资料，包括文献[4]，他们的证明大概分为两个步骤:

1.证明${\sum }_j{\lambda }_j{\varphi }_j^2(s)$一致收敛至$k(s,s)$

2.证明${\sum }_j{\lambda }_j{\varphi }_j(t){\varphi }_j(s)$一致收敛至$k(s,t)$

第一个步骤所有资料包括原文都比较简明易懂，复杂的地方主要在第二步，原文花了很长的篇幅、构造了一些中间算子，才证明了它一致收敛，这个过程我看得很吃力，没有完全看懂。而文献[4]只是提了一下用Schwarz不等式就可以证明2，但没有详细说明。

这个坑困扰了我一两周时间，我能查到的所有博客和StackExchange均没有给出令人信服的证明，比如这个Uniform convergence in Mercer Theorem for bounded kernels；它们几乎都是证明到第一步就停了，第二步和我尝试利用Schwarz不等式得到的结论一样：

$$\sum _j|{\lambda }_j{\varphi }_j(t){\varphi }_j(s)|\le k(s,s{)}^{1/2}k(t$$