径向基函数(rbf)神经网络 基础篇 奥利给 干就完了！

今天咱们就一起把径向基函数神经网络翻个底朝天，好好琢磨一下哈。老铁，走着。
![在这里插入图片描述](https://img-blog.csdnimg.cn/2019112613170742.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM2NDk1NTY5,size_16,color_FFFFFF,t_70
讲径向基函数 神经网络之前，我们得清楚径向基函数是什么？然后再去谈他的神经网络。

先说下径向基函数的发展历史：
Broomhead和Lowe最早将RBF (Radical Basis Function）用于神经网络设计之中。他们在1988年发表的论文《Multivariable functional interpolation and adaptive networks》中初步探讨了RBF用于神经网络设计与应用于传统插值领域的不同特点，进而提出了一种三层结构的RBF神经网络。
Moody和Darken在1989年发表文章《Fast learning in network of locally-tunedprocessing units》，提出一种含有局部响应特性的神经网络，这种网络实际上与Broomhead和Lowe提出的RBF神经网络是一致的，他们还提出了RBF神经网络的训练方法。
以后的研究者针对以前研究中存在的问题与不足提出了许多改进的方法，比如Chen提出的OLS(Orthogonal Least Squares)算法；S.Lee等人提出的HSOL (Hierarchically Self-Organizing Learning) 算法；Platt提出的RAN(Resource Allocating Network)在线学习算法；Kadirkamanathan和Niranjan提出的RANEKF(RAN via Extended Kalman Filter)算法等。
RBF 神经网络主要用于解决模式分类和函数逼近等问题。在数学上，RBF神经网络结构的合理性可由 Cover 定理得到保证，即对于一个模式问题，在高维数据空间中可能解决在低维空间中不易解决的分类问题。它以径向基函数作为隐节点的激活函数，具有收敛速度快、逼近精度高、网络规模小等特点。
在某些条件下，径向基函数几乎可以近似所有函数，因此多变量函数可以转换为单
位函数。在散乱数据插值中，通过不同方法插入大量各种数据,并且径向基函数的结果是
最小误差和最小计算次数。

最常用的径向基函数是 Gauss 分布函数。
该函数的特点最为明显的就是径向对称，自变量在偏离中心位置时数值下降降幅特别大，选择性极其强。

径向基神经网络的原理
径向基神经网络（Radial Basis Functions Neural Network，RBFNN）以神经元为节点，将径向基函数 RBF（通常为与节点中心距离有关的函数，如Gaussian 函数，刻板样条等）作为激励函数，位于输入层(input layer)的输入神经元经过隐层(hidden layer)通过线性加法结构得到输出层(output layer)。
形成输入层，隐层，输出层三层的全连接结构，如图 ：

RBF网络的基本思想

1. 用RBF作为隐单元的“基”构成隐含层空间，将输入矢量直接(即不需要通过权连接)映射到隐空间。
2. 当RBF的中心点确定后，映射关系也就确定。
3. 隐含层空间到输出空间的映射是线性的。

RBFNN 具有如下特点：
（1）结构简单。
神经网络单隐层前馈结构，且非线性，具有足够多隐层神经元的 RBF 网络能逼近任意精度的连续函数。
（2）RBF 神经网络的基函数以输入向量和隐层中心的距离作为变量，由于距离具有径向同性的性质，
故称其为径向基神经网络。
（3）具有局部逼近能力，选择性强，不易陷入局部最小。
（4）径向基函数的种种使得隐含层的作用最为突出，主要就是核函数的思想，可以把向量从低维度映射到高维度，这种低维线性不可分割的壳体可以线性地分离成高维度。
（5）RBF 神经网络具有全局逼近能力，拓扑结构非常紧凑，单独学习结构和参数也很容易上手。
鲁棒性强、记忆能力高、自学习能力强大都使得 RBF 神经网络有很大的应用市场。