1. 三层BP神经网络
结构特点:BP神经网络具有三层或三层以上的多层神经网络,上下各神经元之前无连接。
训练学习方式:当一对样品提供给网络后,从输入层经过各中间层向输出层传播,在输出层获得响应。按照减少目标输出与实际误差的方向,采用负梯度下降等多种方法,从输出层经过中间层逐层修正连接权值,正确率不断提高。
学习方式:两步都采用有导师学习:
训练时间:长。
BP神经网络参数的调整方法:1)梯度下降法;2)有动量的梯度下降法;3)有自适应lr的梯度下降法;4)有动量加自适应lr的梯度下降法;5)弹性梯度下降法;6)Fletcher-Reeves共轭梯度法法;7)Polak-Ribiere共轭梯度法;8)Powell-Beale共轭梯度法;
2. 径向基函数神经网络
结构特点:与BP神经网络结构相似,但其隐含层神经元的核函数取为高斯核函数。
训练学习