BP神经网络推导

正向传播激活神经网络

 

输入层包含两个神经元i1，i2，和截距项b1；

隐含层包含两个神经元h1,h2和截距项（偏置系数）b2，用于控制神经元被激活的容易程度；

输出层是输出o1,o2，每条线上标的wi是层与层之间连接的权重

激活函数为sigmoid函数。

sigmoid函数：

 

对上述变量进行赋值，通过数据进行推导
输入层--->隐含层：

 隐含层--->输出层：

 反向计算

计算总误差
总误差：

 隐含层---->输出层的权值更新：
以权重参数w5为例，如果我们想知道w5对整体误差产生了多少影响，可以用
整体误差对w5求偏导求出：（链式法则）

 

 

 

计算出整体误差E(total)对w5的偏导值，更新w5的值