核自适应滤波

传统的自适应滤波器，如归一化最小均方 (Normalized least mean square，NLMS)滤波器、仿射投影 (Affine projection，AP)滤波器和递归最小二乘 (recursive least-squares，RLS)滤波器等，在线性系统的信号处理方面具有鲁棒性强，结构简单、实时性强等特点，已广泛应用在线性回声消除、主动噪声控制、信道均衡和图像处理等领域。
然而，针对非线性系统，这些传统的线性自适应滤波器算法会出现极大的性能退化，如收敛性能差，均方误差大等。针对这种问题，许多非线性滤波器技术应运而生，比如：Volterra滤波器、Hammerstein滤波器、Hammerstein-Wiener型滤波器等。不幸的是，这些非线性滤波器的计算复杂度随着滤波器阶数的增加呈指数增长，严重阻碍了这些非线性滤波器的应用。
近几年来，基于核方法(Kernel method)的非线性自适应滤波器引起了学者们的广泛的关注。核方法在早在90年代中期就已经在非线性信号处理、数据挖掘等方面得到了成功的应用，如支持向量机(Support Vector Machine，SVM)、主元分析(Kernel Principal Component Analysis，KPCA)、核的Fisher判别分析(Kernel Fisher Discriminant，KFD)和核自调整神经网络(Kernel regularization networks)等。
2004年，Engel等学者首次将核方法延伸至自适应滤波器当中，提出了一种核自适应的RLS滤波器。
核自适应滤波器(Kernel adaptive filter, KAF)的主要思想是：用一个线性的自适应滤波算法来实现非线性信号处理，即通过选择一个固定的映射，将线性输入数据映射到高维的特征空间中，在高维的特征空间中使用线性的滤波器算法。
传统的线性自适应横向滤波器的权向量的迭代更新过程都可以表达成输入数据的内积形式，通过一个非线性映射，将内积的形式映射到一个可再生希尔伯特空间中。可再生希尔伯特空间(Reproducing Kernel Hilbert Space，RKHS)中的Mercer核具有连续、正定、可再生等良好的性质。基于这些性质，我们就可以不通过计算权向量的更新(在高维空间中，这也是无法计算的)，通过Mercer核将映射至高维空间的核函数展开成特征值和特征向量的形式，直接得到滤波器映射至RKHS空间后的输出，从而实现核方法与自适应滤波器的结合。
通常，在核自适应滤波器算法中，可供选择的核函数有很多种，比如指数核函数、复高斯核函数、高斯核函数、多项式核函数、Sigmoid核函数，比较通用的是选择高斯核函数。
核自适应滤波器的特点有：
1) 核自适应滤波器算法的结构和径向基神经网络(Radius Basis Function Networks，RBF)非常类似，将核自适应滤波算法中的高斯核替换为径向基核，核自适应滤波器就可以看作是一个不断递增的RBF神经网络；
2) 网络的输出权值实际上是每个输入样本整定后的预测误差。相较于传统的线性自适应滤波器，核自适应滤波器有效提高了滤波器的非线性信号处理能力。
归纳起来，它还具有以下优势：
1) 核自适应滤波算法泛化学习能力好；
2) 算法结构简单，计算方便；
3) 相比于一些神经网络(比如 regularization network (RN) 神经网络)，显著降低了计算复杂度，并提高了性能。