论文笔记之KSD

论文地址：点这里
这篇文章全名叫：A Kernelized Stein Discrepancy for Goodness-of-fit Tests
顾名思义，文章分为二部分：

1. 用核函数定义的衡量2个分布差异的算法——KSD。
2. 提出一种测量拟合优度(Goodness-of-fit)的方式。

学习目的：由于强化学习的算法之一SQL需要用到Stein变分梯度下降算法，而本文是理解Stein变分梯度下降的关键。第一部分又可以细分为2部分：

1. 提出Stein方法(Stein是个数学家斯特恩的名字)。
2. 提出KSD(核差异)算法。

Abstract

本论文拟在导出一种结合Stein特征和再生核希尔伯特空间RKHS的测量2个概率分布差异的统计学方法——KSD。此外还将导出一种可以在复杂高维分布下测试的拟合优度方式。

1. Introduction

机器学习和统计学上一个基础的任务就是——评估模型在观测值上的拟合优度。传统的方法基于似然值或者累计概率分布。但如今模型的复杂、高维使得计算似然或者CDF变得困难。虽然MCMC和VI可以用于求解似然值，但是它们会造成很大的估计误差，并且由于很难找到合适的统计值，故无法做假设检验。
因此作者推出了likelihood-free方法去估计模型，这种算法有3个特点：

1. 基于一种用于2个分布之间新型相异性测量度$\mathbb{S}$——KSD。
2. $\mathbb{S}$可用于无偏差的U统计值来估计。这是其区别于MCMC和VI的一大特点——拥有无偏差统计量，从而可以去做假设检验：$H_0:p=q$，即从未知分布$p(x)$采样的$x_i\sim p(x)$是否相当于从已知分布$q(x)$中采样那样。这就是拟合优度的测量方式。
3. U统计量仅仅取决于分布q的得分函数$s_q={\nabla }_x\log q(x)$，这么做的好处在于可以无视分布q中的标准化常数$\int q(x)\mathrm{d}x$。并且该算法可适用于复杂且高维的环境，这都是likelihood-based所欠缺的。

Main Idea

KSD基于Stein方法以及可再生核希尔伯特空间。
Stein Method：用于获取2个分布之间的距离上下界，它有以下结论：
对于2个光滑(就是可微)的概率密度p(x)、q(x)，有：
$$Steinidentity:{\mathbb{E}}_p[s_q(x)f(x)+{\nabla }_{x}f(x)]=0\text{\hspace{1em}(1)}$$，当且仅当$p=q$。
Note：

1. 其中光滑函数$f(x)$还需满足边界条件(详见下面证明)。
2. $s_q(x)={\nabla }_x\log q(x)=\frac{{\nabla }_{x}q(x)}{q(x)}$，其中$s_q(x)$就是Stein得分函数。
3. 当$p=q$时，式子(1)又称之为Stein特征。

给出必要性证明如下：

定义2个分布$p、q$之间的Stein discrepancy：
$$\mathbb{S}=\underset{f\in \mathcal{F}}{\max }({\mathbb{E}}_p[s_q(x)f(x)+{\nabla }_{x}f(x)]{)}^2\text{\hspace{1em}(2)}$$
其中：

1. $\mathcal{F}$是函数$f$的集合，$f$均能满足公式(1)这个结论，且当$p\ne q$的时候，$\mathbb{S}>0$。
2. 但是这个目标函数优化起来计算复杂度很高，一般都不直接去优化，因此作者引出了Kernelized-SD。

KSD

显然，就是在之前的SD的基础上加了核函数$k(x,x^{\prime })$。一个核函数唯一确定了一个可再生核希尔伯特空间RKHS(有关函数空间知识的请点击这里)。RKHS是一个内积空间，因此我们的$f$的定义域可以看出是一个球——$||f|{|}_{{\mathcal{H}}^d}\le r$。
给出KSD的定义：
$$\mathbb{S}(p,q)={\mathbb{E}}_{x,x^{\prime }\sim p}[u_q(x,x^{\prime })]\text{\hspace{1em}(3)}$$
Note:

1. $x,x^{\prime }$独立同分布于$p$。
2. $u_q$是一个函数(后续会介绍)，这是一个仅取决于分布$q$的Stein得分函数——${\nabla }_x\log q(x)$。q(x)是个已知分布，但仍是个需要去计算的量，如果其有一个标准化常数$Z=\int f(x)\mathrm{d}x$，当维数很高的时候积分是很难求解的。Stein方法是如何处理这个常数的呢？设$q(x)=\frac{f(x)}{Z},Z=\int f(x)\mathrm{d}x$，所以：$${\nabla }_x\log q(x)={\nabla }_x[\log f(x)-\log Z]={\nabla }_x\log f(x)$$。如此一来，$Z$无论是多少都没有关系。
   因此我们得出了Stein方法的又一个重要结论：Stein方法可以有效跳过求解归一化参数的问题。

KSD是一个积分，实际上可以通过统计量做无偏估计来实现，常见统计量如样本均值、样本方差、V统计量、U统计量。类似于我们之前用样本均值去估计期望，一样的道理。作者采用的就是U统计量，其中， { x i } \{x_i\} {xi​}采样于未知分布$p(x)$：
$$\hat{\mathbb{S}}=\frac{1}{n(n-1)}\sum _{i\ne j}{u}_q(x_i,x_j)\text{\hspace{1em}(4)}$$
$\hat{\mathbb{S}}是\mathbb{S}$的无偏估计，即$\mathbb{E}[\hat{\mathbb{S}}]=\mathbb{E}[\mathbb{S}]$。
有了统计量，就便于我们对$p=q$做假设检验：
$$H_0:{\mathbb{E}}_p[u_q(x,x^{\prime })]=0vs{H}_1:{\mathbb{E}}_p[u_q(s,s^{\prime })>0]$$

Notations

这是文章接下来一些符号的说明：

1. $\mathcal{X}$：集合，d维的空间${\mathbb{R}}^d$。
2. vector-valued函数$\mathbf{f}(x)=[f_1(x),f_2(x),...,f_{d^{\prime }}(x)]$；他的导函数${\nabla }_x\mathbf{f}(x)=[\frac{\partial f_j(x)}{\partial x_i}{]}_{i,j}$是个$d\times d^{\prime }$维的matirx-valued函数。
3. $k(\cdot ,x^{\prime })=k_{x^{\prime }}(\cdot )$。

2. Backgrounds

接下来分别介绍核函数、RKHS、Stein特征、Stein算子的背景知识。

2.1. Kernels and Reproducing Kernel Hilbert Spaces

核函数的特征分解

核函数$k(\cdot ,\cdot )$是一个二元函数，可以看成是个二维无限维矩阵，具有无限个特征值和特征方程，具体可参考我的另一篇函数空间中的RKHS的内容。核函数是个正定矩阵，因此其必定是个实对称矩阵，故根据Mercer定理，核函数可以被特征分解为：
$$\begin{gathered} k(x,x^{\prime })=\sum _j{\lambda }_j{e}_j(x)e_j(x^{\prime }) \\ k(x,\cdot )=\sum _j{\lambda }_j{e}_j(x)e_j\text{\hspace{1em}(5)} \end{gathered}$$Note:

1. { λ j } 、 { e j } \{\lambda_j\}、\{e_j\} {λj​}、{ej​}分别是特征值和对于的特征方程(或者叫特征函数)。
2. $\int e_i(x)\cdot e_j(x)\mathrm{d}x=\mathrm{I}[i=j],\forall i,j$。或者可以写成：$<e_i,e_j>=0,i\ne j$，其中 { e } i = 1 ∞ \{e\}_{i=1}^\infty {e}i=1∞​是一组正交基。根据线代知识，像核函数这种实对称矩阵是可以产生无限个互相正交的特征向量(参考实对称矩阵一定可以对角化)。
3. $e_j(x)\in \mathbb{R}$，$e_j\in {\mathbb{R}}^{\infty }$；$k(x,x^{\prime })\in \mathbb{R},k(x,\cdot )\in {\mathbb{R}}^{\infty }$。

性质补充：

1. 因为RKHS也是一种线性空间，所以对$\forall f(x),g(x)\in \mathcal{H}$，都可以被正交基表示成其线性组合，即$f(x)={\sum }_j{f}_j{e}_j(x);g(x)={\sum }_j{g}_j{e}_j(x)$。
2. 因为RKHS也是一种内积空间，所以对$<f,g{>}_{\mathcal{H}}={\sum }_j{f}_j{g}_j/{\lambda }_j$。
3. 因为RKHS也是一种赋范空间，所以$||f|{|}_{\mathcal{H}}^2=<f,f{>}_{\mathcal{H}}{\sum }_j{f}_j^2/{\lambda }_j。$
4. 再生性：$f(x)=<f,k(\cdot ,x){>}_{\mathcal{H}}$。
5. ${\mathcal{H}}^d=\mathcal{H}\times \cdots \mathcal{H}$意味着$d$维向量 f = { f l : f l ∈ H } l ∈ [ d ] \mathbf{f}=\{f_l:f_l\in\mathcal{H}\}_{l\in[d]} f={fl​:fl​∈H}l∈[d]​所属空间。同理 g = { g l } l ∈ [ d ] \mathbf{g}=\{g_l\}_{l\in[d]} g={gl​}l∈[d]​。因此内积$<\mathbf{f},\mathbf{g}{>}_{{\mathcal{H}}^d}={\sum }_{l\in [d]}<f_l,g_l{>}_{\mathcal{H}}$。范数$||\mathbf{f}|{|}_{{\mathcal{H}}^d}=\sqrt{{\sum }_l||f_l|{|}_{\mathcal{H}}^2}$。

RKHS的可再生性：

指的是一个核函数可以再生2个函数的内积。
$$k(x,x^{\prime })=<k(\cdot ,x),k(\cdot ,x^{\prime }){>}_{\mathcal{H}}$$

RKHS的核技巧：

设$\Phi (\mathbf{x})是\mathbf{x}$映射到高维空间$\mathcal{H}$的向量。则该向量一定可以被核函数表示为$\Phi (\mathbf{x})=k(x,\cdot )$，同理$\Phi (\mathbf{y})=k(y,\cdot )$。那么根据可再生性：$<\Phi (\mathbf{x}),\Phi (\mathbf{y}){>}_{\mathcal{H}}=k(x,y)$。
也就是说我们不用去计算这个映射是怎么样的，直接将原空间的$\mathbf{x},\mathbf{y}$带入到核函数中求值就可以计算高位空间的内积了！引入核技巧的这个高维空间$\mathcal{H}$就是再生核希尔伯特空间。并且一个RKHS唯一规定了一个核函数$k(\cdot ,\cdot )$。

2.2. Stein’s Identity and Operator

Definition 2.1.
设概率密度函数$p(x)$是光滑(连续可微)的，其定义域为$\mathcal{X}$，是${\mathbb{R}}^d$的子集，则Stein得分函数定义为：
$$s_p={\nabla }_x\log p(x)=\frac{{\nabla }_{x}p(x)}{p(x)}$$
Note：

1. $s_p$是一个从$\mathcal{X}$映射到${\mathbb{R}}^d$的$d\times 1$维向量。
2. 定义域的设定也很符合强化学习的特点，因为$p$作为策略网络，输入$x$往往都是$d$维的状态向量。

接下来定义Stein类：
如果函数$f$是光滑且满足：
$${\int }_{x\in \mathcal{X}}{\nabla }_x(f(x)p(x))\mathrm{d}x=0\text{\hspace{1em}(6)}$$则我们称$f:\mathcal{X}\to \mathbb{R}$属于$p$的Stein类$\mathbf{f}$。
Note：

1. $p$的Stein类表示为一个$d^{\prime }$维向量：$\mathbf{f}=[f_1(x),f_2(x),...f_{d^{\prime }}(x){]}^T$。
2. 显然式(6)就是之前Stein特征证明的边界条件。也就是说，成为$p$的Stein类的好处就是拥有了边界条件，而拥有边界条件就相当于掌握了Stein特征${\mathbb{E}}_p[{\mathcal{A}}_{p}f]=0$。

接下来定义Stein算子${\mathcal{A}}_{p}f$：
$${\mathcal{A}}_{p}f(x)=s_p(x)f(x)+{\nabla }_{x}f(x)$$显然算子也是一个$\mathcal{X}\to {\mathbb{R}}^d的d\times 1$的向量。
延伸：
$${\mathcal{A}}_p\mathbf{f}(x)=s_p(x)\mathbf{f}(x{)}^T+{\nabla }_x\mathbf{f}(x)$$
Note:

1. 显然这时候Stein算子是一个$\mathcal{X}\to d\times d^{\prime }$的矩阵。
2. 如果像上面这样是个列向量$\mathbf{f}$，别忘了还要加个转置T。

Lemma 2.2 Stein’s Identity
设$p(x)$光滑且定义域为$\mathcal{X}$，则Stein特征表示为：
$${\mathbb{E}}_p[{\mathcal{A}}_p\mathbf{f}(x)]={\mathbb{E}}_p[s_p(x)\mathbf{f}(x{)}^T+{\nabla }_x\mathbf{f}(x)]=0$$Note:

1. $\mathbf{f}(x)$是未知分布$p$的Stein类。

Lemma 2.3
设$p(x)、q(x)$是光滑且$x\in \mathcal{X}$的$d$维向量。$\mathbf{f}$是分布$p(x)$的Stein类，则有：
$$\begin{gathered} {\mathbb{E}}_p[{\mathcal{A}}_q\mathbf{f}(x)]={\mathbb{E}}_p[(s_q(x)-s_p(x))\mathbf{f}(x{)}^T], \\ 特别的，当\mathbf{f}也是d维的时候，有 \\ {\mathbb{E}}_p[trace({\mathcal{A}}_q\mathbf{f}(x))]={\mathbb{E}}_p[(s_q(x)-s_p(x){)}^T\mathbf{f}(x)]={\mathbb{E}}_p[s_q^T(x)\mathbf{f}(x)+tr({\nabla }_x\mathbf{f}(x))] \end{gathered}$$Note:

1. $trace$是矩阵的迹，就是方阵对角线之和。第二个含迹公式大致就是按这个思路来的：$A^{T}A=tr(A{A}^T),A\in {\mathbb{R}}^d$。但是不知怎么证明，因为无法证明${\mathcal{A}}_q\mathbf{f}(x)=(s_q(x)-s_p(x))\mathbf{f}(x{)}^T$——暂且当个结论记吧。
2. 如上所示当是$\mathbf{f}$这个列向量的时候，别忘了转置T，如果是常量$f(x)$，则没有转置符:${\mathbb{E}}_p[{\mathcal{A}}_{q}f(x)]={\mathbb{E}}_p[(s_q(x)-s_p(x))f(x)]$
3. 上式证明如下：

3. Kernelized Stein Discrepancy

Definition 3.1.
如果函数$k$满足正定性以及对称性，即：
$$\begin{gathered} {\int }_{\mathcal{X}}g(x)k(x,x^{\prime })g(x^{\prime })\mathrm{d}x\mathrm{d}{x}^{\prime }>0 \\ 0<||g|{|}_2^2<\infty \\ k(x,x^{\prime })=k(x^{\prime },x)\text{\hspace{1em}(7)} \end{gathered}$$则$k$就是一个核函数。

Definition 3.2.
定义2个分布$p(x)、q(x)$之间的相异度KSD以及得分差$\delta$定义为：
$$\begin{gathered} \mathbb{S}(p,q)={\mathbb{E}}_{x,x^{\prime }\sim p}[{\delta }_{q,p}^T(x)k(x,x^{\prime }){\delta }_{q,p}(x^{\prime })] \\ {\delta }_{q,p}(x)=s_q(x)-s_p(x)\text{\hspace{1em}(8)} \end{gathered}$$Note:

1. 这个公式(8)就是引入核函数之后的Stein-Discrepancy，也是本文的核心公式之一。

Proposition 3.3.
定义$g_{p,q}(x)=p(x)(s_q(x)-s_p(x)),k$是个正定核函数，$||g_{p,q}|{|}_2^2<\infty$，则：
$$\begin{gathered} \mathbb{S}(p,q)\ge 0 \\ \mathbb{S}(p,q)=0当且仅当p=q \end{gathered}$$
证明如下：主要利用了公式(7)
公式(8)定义的KSD不仅需要求解$s_q$，还需要知道$s_p$，要知道分布$p$是未知的，因此这个式子计算起来难度就会很大，所以接下来作者在式(8)的基础上添加了Stein特征来简化式(8)，从而使得我们只需要求$s_q$就行了(分布q是已知的)。

Definition 3.4.
如果核函数$k(x,x^{\prime })$拥有连续二阶偏导数，那么$k(x,x^{\prime })、k(x,\cdot )、k(x^{\prime },\cdot )$都属于$p$的Stein类。
作者立即给出了高斯核函数RBF：
$$k(x,x^{\prime })=\exp (-\frac{||x-x^{\prime }|{|}_2^2}{2h^2})$$一定是在Stein类中，且$\mathcal{X}={\mathbb{R}}^d$。

Proposition 3.5.
如果$k(x,x^{\prime })$在Stein类中，那么对$\forall f\in \mathcal{H}(\mathcal{H}为$RKHS)，$f(x)$都同在Stein类中。
证明如下：

Note：

1. 其中涉及到了矩阵内积，可参考向量内积与矩阵内积。内积可以是矩阵与矩阵，也可以是矩阵与向量之间。
2. $f\in {\mathbb{R}}^{d^{\prime }}$。
3. 核函数在RKHS中一般看成是无限维的，但是具体到问题的时候，因为内积计算的原因，一般都不是无限维，看核函数内积的对象维度。
4. 对于${\nabla }_{x}f=<f,{\nabla }_{x}k(x,\cdot ){>}_{\mathcal{H}}$，可参考Derivative reproducing properties for kernel methods
   in learning theory

Theorem 3.6.
设$p,q$光滑，且核函数$k$属于$p$的Stein类，那么定义：
$$\begin{gathered} u_q(x,x^{\prime })=s_q^T(x)k(x,x^{\prime })s_q(x^{\prime })+s_q^T(x){\nabla }_{x^{\prime }}k(x,x^{\prime })+{\nabla }_x{k}^T(x,x^{\prime })s_q(x^{\prime })+trace({\nabla }_{x,x^{\prime }}k(x,x^{\prime })), \\ 则\mathbb{S}(p,q)={\mathbb{E}}_{x,x^{\prime }\sim p}[u_q(x,x^{\prime })]\text{\hspace{1em}(9)} \end{gathered}$$
证明如下：
Note：

1. 这里有个地方涉及到列向量$y$对列向量$x$求导，我们一般为了实践方便，都把列向量$y$当行向量处理，参考这里。对于矩阵向量的求导，点这里。(RL中常见的还会涉及实值标量函数$f(\mathbf{X})$对矩阵$\mathbf{X}$的求导)
2. 这里引入了Stein特征来消除有关未知分布$p$的有关式子，大大简化了计算难度，可见Stein方法的重要性。

做到这里我们已经获得了KSD的计算形式，那如何具体算出来呢？
Theorem3.7真正提供了一种可计算$\mathbb{S}(p,q)$的方法——核函数的特征分解。

Theorem 3.7
我们还可以使用$k(\cdot ,\cdot )$的特征分解，使用其特征函数$e_j(x)$来构造一个正定矩阵$u_q(x,x^{\prime })$：
$$\begin{gathered} u_q(x,x^{\prime })=\sum _j{\lambda }_j[{\mathcal{A}}_q{e}_j(x){]}^T[{\mathcal{A}}_q{e}_j(x^{\prime })] \\ 其中，{\mathcal{A}}_q{e}_j(x)=s_q(x)e_j(x)+{\nabla }_x{e}_j(x)\text{\hspace{1em}(10)} \end{gathered}$$
证明如下：
结合式(9)和式(10)，可推出：
$$\mathbb{S}(p,q)=\sum _j{\lambda }_j{\mathbb{E}}_{x,x^{\prime }\sim p}(||{\mathcal{A}}_q{e}_j(x)|{|}_2^2)\text{\hspace{1em}(11)}$$证明如下：

Note:

1. 虽然 { e j } \{e_j\} {ej​}是相互正交的，但是 { A q e j ( x ) } \{\mathcal{A}_qe_j(x)\} {Aq​ej​(x)}不是相互正交的。

Theorem 3.8

设$\mathcal{H}$为再生核希尔伯特空间，$k(x,x^{\prime })$为核函数，并且是$p$的Stein类，记$\beta (x^{\prime })={\mathbb{E}}_{x\sim p}[{\mathcal{A}}_p{k}_{x^{\prime }}(x)]$，则：
$$\mathbb{S}(p,q)=||\beta |{|}_{{\mathcal{H}}^d}^2\text{\hspace{1em}(12)}$$证明如下：

Note：

1. 矩阵的期望是矩阵中每个随机变量(元素)的期望。
2. 若A、B独立，则 E [ < A , B > ] = E [ t r ( A T B ) ] = t r ( E ( A T B ) ) = t r ( E T { A } , E { B } ) = < E { A } , E { B } > \mathbb{E}[<A,B>]=\mathbb{E}[tr(A^TB)]=tr(\mathbb{E}(A^TB)) \\=tr(\mathbb{E}^T\{A\},\mathbb{E}\{B\})=<\mathbb{E}\{A\},\mathbb{E}\{B\}> E[<A,B>]=E[tr(ATB)]=tr(E(ATB))=tr(ET{A},E{B})=<E{A},E{B}>
3. 式(11)和式(12)均起源式(8)，因此三个式子都是等效的。
4. 对于$\mathbb{S}(p,q)={\mathbb{E}}_{x,x^{\prime }\sim p(x)}[u_q(x,x^{\prime })]$，$x,x^{\prime }$是独立同分布采样于$p(x)$的。
5. 从式(12)可以看出所谓的$\mathbb{S}(p,q)$就是RKHS中的一个内积。
6. 从这里看出，看似Theorem 3.7或者公式(9)没什么用，好像有点多余，但其实Theorem 3.7是用于文章的第二部分，也就是提出一种测量拟合优度的方法，式(9)可提供一种U统计量做假设检验，如果只是学习第一部分，即KSD的话，则更需要掌握Theorem 3.8。

进一步，因为$<\mathbf{f},\beta {>}_{{\mathcal{H}}^d}={\mathbb{E}}_x[trace({\mathcal{A}}_q\mathbf{f})],\mathbf{f}\in {\mathcal{H}}^d$,证明如下：

还记得式(2)吗，那个因为计算难度大，使得我们将目标转移到RKHS以及Stein方法的Stein Discrepancy——在空间中找一个$f$，使得${\mathbb{E}}_{x\sim p}[{\mathcal{A}}_{q}f(x)]$达到最大。经过我们RKHS和Stein方法的洗礼，转变成了，在RKHS中找到一个$f\in {\mathcal{H}}^d$，使得$<\mathbf{f},\beta >={\mathbb{E}}_{x\sim p}[tr({\mathcal{A}}_q\mathbf{f})]$最大(和${\mathbb{E}}_{x\sim p}[{\mathcal{A}}_{q}f(x)]$达到最大是一样的)。
所以有：
S ( p , q ) = max ⁡ f ∈ H d { E x [ t r a c e ( A q f ) ] ,      s . t . ∣ ∣ f ∣ ∣ H d ≤ 1 } (13) \sqrt{\mathbb{S}(p,q)}=\max_{\mathbf{f}\in\mathcal{H}^d}\{\mathbb{E}_x[trace(\mathcal{A}_q\mathbf{f})],\,\,\,\,s.t.||\mathbf{f}||_{\mathcal{H}^d}\leq1\}\tag{13} S(p,q) ​=f∈Hdmax​{Ex​[trace(Aq​f)],s.t.∣∣f∣∣Hd​≤1}(13)显然到达最大时候的$\mathbf{f}$就是$\beta$，当然我们可以对$\beta$向量做归一化，也就是只要它的方向。因此，求出$\mathbb{S}(p,q)$就很简单了，只需要按照式(11)或式(12)来就行，不需要盯着式(2)不知所措了。
Note:

1. 式(13)的优化结果是：$\mathbf{f}=\frac{\beta }{||\beta |{|}_{{\mathcal{H}}^d}}$。
2. 还有一种形式是不带根号的式(13)，但是约束条件要改为$||\mathbf{f}|{|}_{{\mathcal{H}}^d}\le \mathbb{S}(p,q)$

总结：
直到这里，我们已经能求出$\mathbb{S}(p,q)$以及对应的优化结果$\mathbf{f}$了。

4. Goodness-of-fit Testing Based on KSD

因为本轮主要研究KSD的内容，所以后面略。

5. Related Methods

略

5.1. Connection with Fisher Divergence

略

5.2. Maximum Mean Discrepancy & Two-sample Tests

略

6. Experiments

略

7. Conclusion and Future Directions

文章最重要的贡献就是：

1. 提出了一种可计算的，用于估计出复杂模型的相异度测量算法——KSD。
2. 可以将KSD用于机器学习中分析或使用估计出来的复杂模型。
3. 完整的介绍了Stein方法的背景和RKHS的背景知识。