正向传播激活神经网络
输入层包含两个神经元i1,i2,和截距项b1;
隐含层包含两个神经元h1,h2和截距项(偏置系数)b2,用于控制神经元被激活的容易程度;
输出层是输出o1,o2,每条线上标的wi是层与层之间连接的权重
激活函数为sigmoid函数。
sigmoid函数:
对上述变量进行赋值,通过数据进行推导
输入层--->隐含层:
隐含层--->输出层:
反向计算
计算总误差
总误差:
隐含层---->输出层的权值更新:
以权重参数w5为例,如果我们想知道w5对整体误差产生了多少影响,可以用
整体误差对w5求偏导求出:(链式法则)
计算出整体误差E(total)对w5的偏导值,更新w5的值