RBF(径向基函数)网络
径向基函数网络是一种单隐层前馈神经网络,它使用径向基函数作为隐层神经元激活函数,而输出层则是对隐层神经元输出的线性组合,假定输入为d维向量x,输出为实值,则RBF网络可表示为
其中q为隐层神经元个数,Ci和ωi分别是第i个隐层神经元所对应的中心和权重,ρ(x,Ci)是径向基函数,这是某种沿径向对称的标量函数,通常定义为样本x到数据中心Ci之间的欧氏距离的单调函数。常用的高斯径向基函数形如
具有足够多隐层神经元的RBF网络能以任意精度逼近任意连续函数。
通常采用两步过程来训练RBF网络:
1、确定神经元中心Ci,常用的方式包括随机采样、聚类等。
2、利用BP算法等来确定参数ωi和β