神经网络matlab仿真,神经网络与MATLAB仿真.ppt

谢谢大家！ * 1.径向基神经网络的两种结构 2.径向基神经网络的学习算法 3.径向基神经网络与多层感知器的比较 4.概率神经网络 5.广义回归神经网络 6.径向基网络应用实例 * Broomhead和Lowe根据生物神经元具有局部响应的原理，将径向基函数引入到神经网络中。很快，RBF网络被证明对非线性网络具有一致逼近的性能，在不同行业和领域逐步得到了广泛应用。 由三层构成的前向网络 。 第一层为输入层，节点个数等于输入的维数； 第二层为隐含层，节点个数视问题的复杂度而定； 第三层为输出层，节点个数等于输出数据的维数。 隐含层是非线性的，采用径向基函数作为基函数，从而将输入向量空间转换到隐含层空间，使原来线性不可分的问题变得线性可分，输出层则是线性的。 径向基网络 概率神经网络 广义回归网络模式分类和函数逼近 * 径向基函数：有多种形式，其中最为常用的，是高斯函数 输入层 隐含层 输出层(线性) 1.正则化网络是一个通用逼近器，这意味着，只要有足够多的隐含节点，它就可以以任意精度逼近任意多远连续函数。 2.给定一个未知的非线性函数f，总可以选择一组系数，使得网络对f的逼近是最优的。 * 正则化网络的一个特点就是：隐含节点的个数等于输入训练样本的个数。因此如果训练样本的个数N过大，网络的计算量将是惊人的，从而导致过低的效率甚至根本不可实现。 解决的方案是用Galerkin方法来减少隐含层神经单元的个数，此时求得的解是较低维数空间上的次优解 。这就是广义网络 在实际应用中，一般都采用广义径向基函数网络。 * 确定隐含层结点中心 隐含层中基函数的标准差 网络权值(隐含层到输出层) 所选取的中心之间的最大距离 n为隐含节点的个数 随机选取固定中心、自组织选取中心、有监督选取中心、正交最小二乘法 网络权值可以采用伪逆法 G为隐含层输出，d为输出层的期望输出 * 径向基神经网络是三层网络(输入层、隐含层、输出层)，只有一个隐含层，而多层感知器则可以有多个隐含层 径向基神经网络的隐含层和输出层完全不同，隐含层采用非线性函数(径向基函数)作为基函数，而输出层采用线性函数，两者作用不同。 径向基神经网络的基函数计算的是输入向量与基函数中心之间的欧式距离(两者取差值，再取欧几里德范数)，而多层感知器的隐单元的激励函数则计算输入向量与权值的内积 多层感知器对非线性映射全局逼近 ，径向基函数局部逼近 * 概率神经网络(Probabilistic Neural Networks，PNN)在模式分类问题中获得了广泛应用 。 概率神经网络可以视为一种径向基神经网络，在RBF网络的基础上，融合了密度函数估计和贝叶斯决策理论。在某些易满足的条件下，以PNN实现的判别边界渐进地逼近贝叶斯最佳判定面。 贝叶斯：通过先验概率求后验概率。 * 第一层为输入层，用于接收来自训练样本的值，将数据传递给隐含层 径向基层，每一个隐含层的神经元节点拥有一个中心，该层接收输入层的样本输入，计算输入向量与中心的距离，最后返回一个标量值 求和层把隐含层中属于同一类的隐含神经元的输出做加权平均 输出层取求和层中最大的一个作为输出的类别 概率神经网络由输入层、隐含层、求和层和输出层组成 * PNN网络的优点 训练容易，收敛速度快，从而非常适用于实时处理。 可以实现任意的非线性逼近，用PNN网络所形成的判决曲面与贝叶斯最优准则下的曲面非常接近。 只要有充足的样本数据，概率神经网络都能收敛到贝叶斯分类器，没有BP网络的局部极小值问题 扩充性能好。网络的学习过程简单，增加或减少类别模式时不需要重新进行长时间的训练学习 * 广义回归神经网络(General Regression Neural Network，GRNN)是径向基网络的另外一种变形形式 广义回归网络以径向基网络为基础，因此具有良好的非线性逼近性能，与径向基网络相比，训练更为方便 广义回归神经网络尤其适合解决曲线拟合的问题 在MATLAB中newgrnn函数可以方便的实现GRNN网络 * 6.径向基网络应用实例 异或问题 RBF网络曲线拟合 * 6.径向基网络应用实例 异或问题 输入层为两个神经元，输出层为一个神经元，隐含层定位两个神经元 1. 显然问题是对称的，因此假定输出单元的两个权值相等，即 w1=w2=w 2. 输出单元拥有一个偏置b，以保证网络具有非零均值的输出值 两个隐含层结点的中心： t1=[1,1]T，t2