深度学习———— BP神经网络

深入理解BP神经网络

22018.06.01 12:56:14字数 1318阅读 38178

一、BP神经网络的概念

BP神经网络是一种多层的前馈神经网络，其主要的特点是：信号是前向传播的，而误差是反向传播的。具体来说，对于如下的只含一个隐层的神经网络模型：

BP神经网络的过程主要分为两个阶段，第一阶段是信号的前向传播，从输入层经过隐含层，最后到达输出层；第二阶段是误差的反向传播，从输出层到隐含层，最后到输入层，依次调节隐含层到输出层的权重和偏置，输入层到隐含层的权重和偏置。

3层BP神经网络

二、BP神经网络流程

神经网络的基本组成单元是神经元。神经元的通用模型如图所示，其中常用的激活函数有阈值函数、sigmoid函数和双曲正切函数。 

神经元模型

神经元的输出为： 

神经元输出

神经网络是将多个神经元按一定规则联结在一起而形成的网络，如图 所示。 

神经网络示意图 

从图 可以看出，一个神经网络包括输入层、隐含层（中间层）和输出层。输入层神经元个数与输入数据的维数相同，输出层神经元个数与需要拟合的数据个数相同，隐含层神经元个数与层数就需要设计者自己根据一些规则和目标来设定。在深度学习出现之前，隐含层的层数通常为一层，即通常使用的神经网络是3层网络。 

三、BP网络输入与输出关系

BP网络采用的传递函数是非线性变换函数——Sigmoid函数（又称S函数）。其特点是函数本身及其导数都是连续的，因而在处理上十分方便。为什么要选择这个函数，等下在介绍BP网络的学习算法的时候会进行进一步的介绍。S函数有单极性S型函数和双极性S型函数两种，单极性S型函数定义如下：f(x)=1/1+e−x

其函数曲线如图所示：

单极性S曲线

双极性S型函数：f(x)=1−e−x/1+e−x

 

双极性S曲线

使用S型激活函数时，输入：

输入

输出：

输出

输出的导数：

导数

使用S型激活函数时，BP网络的输出及其导数图形：

图形

根据S激活函数的图形：

net在 -5~0 的时候导数的值为正，且导数的值逐渐增大，说明此时f(x)在逐渐变大 且 变大的速度越来越快

net在 0~5  的时候导数的值为正，且导数的值逐渐减小，说明此时f(x)在逐渐变大 但是 变大的速度越来越慢

对神经网络进行训练，我们应该尽量将net的值尽量控制在收敛比较快的范围内。

四、揭秘有监督的BP神经网络学习过程：

流程图

初始化和样本随机选取

计算隐含层相关数据

误差计算1

误差计算2

反向传播1

反向传播2

全局误差和迭代

五、BP算法直观解释

情况1

情况2

六、 BP算法的Java代码实现

1.  定义一个BP神经网络的类，设置网络相关参数

2.    实例化该神经网络，按下图被构建成一个输出3维，输出1维，带有3个隐藏层（每个隐藏层10个节点）的BP网络；（此处还可以随意扩展输入、输出维度和隐藏层相关系数）

3.    初始化BP神经网络的时候，开始初始化各层网络节点的 权重、权重动量、误差初始值

4.  引入学习训练数据；4组输入、输出数据迭代5000次

    5000次中不断向前逐层计算输出的节点数据

    并同时逐层计算误差反向修改权重值，直到迭代完毕；注意误差函数值必须呈现下降趋势

5.  引入数据进行结果预测，将数据带回模型计算得结果；最终可知预测结果趋近于0.7

七、 BP算法意味着什么

神经网络利用现有的数据找出输入与输出之间得权值关系（近似），然后利用这样的权值关系进行仿真，例如输入一组数据仿真出输出结果，当然你的输入要和训练时采用的数据集在一个范畴之内。例如预报天气：温度 湿度 气压等作为输入 天气情况作为输出利用历史得输入输出关系训练出神经网络，然后利用这样的神经网络输入今天的温度 湿度 气压等 得出即将得天气情况。同理，运用到自动化测试中，使用测试数据反映结果走向，bug数，质量问题等情况也可以做到提前预测的！

附录：