深度学习基础--不同网络种类--BP网络

BP网络

  是常见前馈神经网络，感知器（又叫感知机）是最简单的前馈网络。
  BP网络是指连接权调整采用了反向传播（Back Propagation）学习算法的前馈网络。
  与感知器不同之处在于，BP网络的神经元变换函数采用了S形函数（Sigmoid函数），因此输出量是0~1之间的连续量，可实现从输入到输出的任意的非线性映射。

前馈神经网络和BP神经网络的不同

  1）前馈(FFNN)描述的是网络的结构，指的是网络的信息流是单向的，不会构成环路。它是和“递归网络”(RNN)相对的概念；
  backpropagation是一类训练方法，可以应用于FFNN，也可以应用于RNN，而且BP也并不是唯一的训练方法，其他可用的还有比如遗传算法（GA）等。

  2）前馈是数据流向与结构，而bp是算法，是误差反向传播。但是的确是有BP网络的说法，需要注意都是，一般说的BP网络指的是用BP算法进行训练的多层前馈神经网络。