BP反向传播
基本原理
利用输出后的误差来估计输出层前一层的误差，再用这个误差估计更前一层的误差，如此一层一层地反传下去，从而获得所有其他各层的误差
对网络的连接权重做动态调整
核心：梯度下降法
推导过程
输入层相关变量：下标i
隐藏层相关变量：下标h
输出层相关变量：下标j
激励函数输入为a, 激励函数输出为z, 结点误差为δ
预测值是z, 目标值是t
【前向传播】
a h = ∑ i w i h x i + θ h z h = f ( a h ) {a_h} = \sum\limits_i {
{w_{ih}}{x_i} + {\theta _h}} \quad\quad{z_h} = f\left( {
{a_h}} \right) ah=i∑wihxi+θhzh=f(ah)
a j = ∑ h w h j z h + θ j z j = f ( a j ) {a_j} = \sum\limits_h {
{w_{hj}}{z_h} + {\theta _j}} \quad\quad{z_j} = f\left( {
{a_j}} \right) aj=h∑whjzh+θjzj=f(aj)<
最低0.47元/天 解锁文章
2246
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
