相关答案和源代码托管在我的Github上:PY131/Machine-Learning_ZhouZhihua.
5.7. RBF神经网络实验
注:本题程序基于Python实现(这里查看完整代码和数据集)。
1. RBF网络基础
RBF网络采用RBF(Radial Basis Function函数)作为隐层神经元激活函数,是一种局部逼近神经网络,下面先分析其激活函数RBF,然后分析RBF神经网络的结构。
1.1. 径向基函数(RBF)
径向基函数是一类取值依赖样本于到中心点距离的函数,本题基于常用的高斯径向基函数(gaussian RBF)开展实验。下面是高斯径向基函数形式书p108式(5.19):
这里的 β 为尺度系数, c_i 为中心点(维度由输入决定),函数的取值取决于样本 x 到中心点的距离(2-范数),该函数的参数为 (β, c_i)。
如下图示为高斯径向基函数示意图(绘图程序):