BP神经网络算法原理
BP神经网络算法是一种神经网络学习算法[4],其原理是在梯度下降法,利用梯度搜索技术,以期使网络的实际输出值和期望输出值的误差均方差为最小。其优点在于泛化能力、自学习和自适应能力强,及特别适合于求解内部机制复杂的问题。
BP神经网络算法步骤
BP神经网络的过程主要分为两个阶段,第一阶段是信号的前向传播,从输入层经过隐含层,最后到达输出层;
第二阶段是反向传播,从输出层到隐层,最后到输入层,依次调节隐层到输出层的权重和偏置,输入层到隐层的权重和偏置。
首先,初始化权重,将样本模式计数器n和训练次数计数器设置为1,误差E设置为0,其次是输入样本并计算输出和误差,接着根据误差调制各层的权值,当网络训练后达到精度(设为一个较小的正数)。结束神经网络参数训练。
BP神经网络算法数学公式
以输入层、隐层和输出层的节点数分别为3、4、4为例。
输入层到隐层的激励函数为
隐层的输出函数
输出层的输出函数
误差公式