概率神经网络（PNN）

1、概率神经网络

概率神经网络(Probabilistic Neural Network)是由D.F.Speeht博士在1989年首先提出，是径向基网络的一个分支，属于前馈网络的一种。它具有如下优点：学习过程简单、训练速度快；分类更准确，容错性好等。从本质上说，它属于一种有监督的网络分类器，基于贝叶斯最小风险准则。

   概率神经网络一般有以下四层：输入层、模式层、求和层和输出层。有的资料中也把模式层称为隐含层，把求和层叫做竞争层。其中，输入层负责将特征向量传入网络，输入层个数是样本特征的个数。模式层通过连接权值与输入层连接。计算输入特征向量与训练集中各个模式的匹配程度，也就是相似度，将其距离送入高斯函数得到模式层的输出。模式层的神经元的个数是输入样本矢量的个数，也就是有多少个样本，该层就有多少个神经元。求和层，就是负责将各个类的模式层单元连接起来，这一层的神经元个数是样本的类别数目。输出层的话，就负责输出求和层中得分最高的那一类。

第一层为输入层，用于接收来自训练样本的值，将数据传递给隐含层，神经元个数与输入向量长度相等。第二层隐含层是径向基层，每一个隐含层的神经元节点拥有一个中心，该层接收输入层的样本输入，计算输入向量与中心的距离，最后返回一个标量值，神经元个数与输入训练样本个数相同。向量x输入到隐含层，隐含层中第i类模式的第j神经元所确定的输入/输出关系由下式定义：

2、概率神经网络的优点

• 训练容易，收敛速度快，从而非常适用于实时处理。在基于密度函数核估计的PNN网络中，每一个训练样本确定一个隐含层神经元，神经元的权值直接取自输入样本值。口可以实现任意的非线性逼近，用PNN网络所形成的判决曲面与贝叶斯最优准则下的曲面非常接近。

• 隐含层采用径向基的非线性映射函数，考虑了不同类别模式样本的交错影响，具有很强的容错性。只要有充足的样本数据，概率神经网络都能收敛到贝叶斯分类器，没有BP网络的局部极小值问题。

• 隐含层的传输函数可以选用各种用来估计概率密度的基函数，且分类结果对基函数的形式不敏感。

• 扩充性能好。网络的学习过程简单，增加或减少类别模式时不需要重新进行长时间的训练学习。

• 各层神经元的数目比较固定，因而易于硬件实现。