【机器学习】Bp神经网络算法数学推导

以下两张图片是bp神经网络的正向传播和误差反向传播的数学推导，包括节点权值和阈值的更新。

该bp神经网络是单隐层神经网络，即含有一个输入层x1-xd，一个隐含层b1-bq，一个输出层y1-yl。

其中隐含层和输出层使用激活函数 f(x) = 1/(1+e^(-x)) 。

Vih表示xi与bh连接权值，gamah表示bh的阈值；Whj表示bh与yj的连接权值，thetaj表示yj的阈值。

误差反向传播过程中，需要更新的参数：d*q+q*l个权值，q+l个阈值。

图 1

图 2