本文是我在学习反向传播时翻译的一篇文章。原文链接如下。
A Step by Step Backpropagation Example
实例学习
在这个例子里,我们将制作一个小型神经网络。它有两个输入,两个隐藏的神经元,两个输出神经元。
此外,隐藏和输出的神经元都包含了一个偏差(bias)。下图是这个神经网络的结构。
下面我们给各个参数设定一些值。权重(w) , 偏差(b) 和用来训练的输入输出
反向传播的目标是优化权重,以便神经网络能够学习如何正确地将任意输入映射到输出。
在这个例子里:给定输入0.05和0.10,我们希望神经网络输出0.01和0.99。
- 正向计算
我们假设这个神经网络的激活函数是 logistic 回归函数。
我们来计算一下隐藏层神经元h1