RBF神经网络的缺点!
1.RBF的泛化能力在多个方面都优于BP网络,但是在解决具有相同精度要求的问题时,BP网络的结构要比RBF网络简单。
2.RBF网络的逼近精度要明显高于BP网络,它几乎能实现完全逼近,而且设计起来极其方便,网络可以自动增加神经元直到满足精度要求为止。
但是在训练样本增多时,RBF网络的隐层神经元数远远高于前者,使得RBF网络的复杂度大增加,结构过于庞大,从而运算量也有所增加。
3.RBF神经网络是一种性能优良的前馈型神经网络,RBF网络可以任意精度逼近任意的非线性函数,且具有全局逼近能力,从根本上解决了BP网络的局部最优问题,而且拓扑结构紧凑,结构参数可实现分离学习,收敛速度快。
4.他们的结构是完全不一样的。BP是通过不断的调整神经元的权值来逼近最小误差的。其方法一般是梯度下降。
RBF是一种前馈型的神经网络,也就是说他不是通过不停的调整权值来逼近最小误差的,的激励函数是一般是高斯函数和BP的S型函数不一样,高斯函数是通过对输入与函数中心点的距离来算权重的。
5.bp神经网络学习速率是固定的,因此网络的收敛速度慢,需要较长的训练时间。对于一些复杂问题,BP算法需要的训练时间可能非常长,这主要是由于学习速率太小造成的。
而rbf神经网络是种高效的前馈式网络,它具有其他前向网络所不具有的最佳逼近性能和全局最优特性,并且结构简单,训练速度快。
谷歌人工智能写作项目:神经网络伪原创
神经网络算法的局限性
神经网络算法的局限性是:可以使用均值函数但是这个函数将获取嵌入的平均值,并将其分配为新的嵌入好文案。但是,很容易看出,对于某些不同的图,它们会给出相同的嵌入,所以,均值函数并不是单射的。
即使图不同,节点v和v’的平均嵌入聚合(此处嵌入对应于不同的颜色)将给出相同的嵌入。
这里真正重要的是,你可以先用某个函数f(x)将每个嵌入映射到一个新的嵌入,然后进行求和,得到一个单射函数。
在证明中,它们实际上显式地声明了这个函数f,这需要两个额外条件,即X是可数的,且任何多重集都是有界的。
并且事实上,在训练中并没有任何东西可以保证这种单射性,而且可能还会有一些图是GIN无法区分的,但WL可以。所以这是对GIN的一个很强的假设,如果违反了这一假设,那么GIN的性能将受到限制。
神经网络算法的普适性是:研究模型的局限性通常更容易获得对模型的洞察。毕竟,网络所不能学到的关于特定特征的知识在应用时独立于训练过程。