基于遗传算法的BP神经网络优化

基于遗传算法的BP神经网络优化

1 前言
BP神经网络是人工神经网络中应用最广泛的算法，但是也存在一些缺陷，例如学习收敛速度太慢，不能保证收敛到全局最小点、网络结构不易确定。另外，网络结构、初始连接权值和阈值的选择对网络训练的影响很大，但是又无法准确获得，针对这些特点可以采用遗传算法对神经网络进行优化。
注：此篇文章为个人学习笔记总结，如有资源冒犯，请与我联系，我将立即进行处理，谢谢

2 思路与步骤
遗传算法优化BP神经网络主要分为三步：BP神经网络结构的确定、遗传算法优化权值和阈值、BP神经网络训练与预测。

2.1 BP神经网络结构的确定

• 网络创建
  BP网络结构的确定有以下两条比较重要的指导原则。
  1 .对于一般的模式识别问题，三层网络可以很好地解决问题
  2 .在三层网络中，隐含层神经网络个数n2和输入层神经元个数n1之间有近似关系：n2=2n1+1
  也可用其余的关系计算隐含层个数，如下：
  (1) m=√(n+l) + a
  m为隐含层个数，n为输入层节点数，l为输出层节点数，a为1-10之间的常数
  (2) m=√(nl)
  m为隐含层个数，n为输入层节点数，l为输出层节点数
  (3) m=log2(n)
  m为隐含层个数，n为输入层节点数
• 传递函数
  logsig 输入值为任意值，输出值为0~1之间
  tansig 输入值为任意值，输出值为-1~1之