参考链接:
http://www.cnblogs.com/zhangchaoyang/articles/2591663.html 系统介绍了RBF network
https://www.zhihu.com/question/44328472 知乎 RBF网络和BP网络区别
径向基函数(Radical Basis Function,RBF)。径向基函数(Radical Basis Function,RBF)方法是Powell在1985年提出的。所谓径向基函数,其实就是某种沿径向对称的标量函数。通常定义为空间中任一点x到某一中心c之间欧氏距离的单调函数,可记作k(||x-c||),其作用往往是局部的,即当x远离c时函数取值很小。
RBF Kernel 有什么特点:
图一 Radial Basis Function
图二 Plot of Radial Basis Function with 2D input
图三 RBF 使样本点只被附近(圈内)的输入激活
RBF 和 BP network 区别:
BP神经网络的隐节点采用输入模式与权向量的内积作为激活函数的自变量,而激活函数采用Sigmoid函数。各隐节点对BP网络的输出具有同等地位的影响,因此BP神经网络是对非线性映射的全局逼近。
RBF神经网络的隐节点采用输入模式与中心向量的距离(如欧式距离)作为函数的自变量,并使用径向基函数(如Gaussian函数)作为激活函数。神经元的输入离径向基函数中心越远,神经元的激活程度就越低。RBF网络的输出与数据中心离输入模式较劲的“局部”隐节点关系较大,RBF神经网络因此具有“局部映射”特性。
BP网络最常用的神经元是perceptron,最流行的用法是多层perceptrons.如下图所示:
RBF网络:神经元是一个以gaussian函数(或者其他)为核函数的神经元
RBF Network 通常只有三层。 输入层、中间层计算输入 x 矢量与样本矢量 c 欧式距离的 Radial Basis Function (RBF) 的值,输出层算它们的线性组合
第一阶段为非监督学习,从数据中选取记忆样本(图四中的紫色中心)。例如聚类算法可在该阶段使用。
第二阶段为监督学习,训练记忆样本与样本输出的联系。该阶段根据需要可使用 AD/BP。