本文为翻译内容,如下给出原文链接。
原文:Principles of training mult-layer neural network using backpropagation
链接:http://galaxy.agh.edu.pl/~vlsi/AI/backp_t_en/backprop.html
本文描述了使用反向传播算法训练多层神经网络的过程。为了更直观的说明该训练过程,使用如下图所示的三层神经网络,其中只有两个输入,一个输出。
每个神经元由两个单元组成:
第一个单元表示输入信号的加权和(Xi为输入信号,Wi为权重系数);
第二个单元实现非线性函数(也称为神经元激活函数);
如下图,信号e为线性输出,y=f(e)为非线性输出,y也是当前神经元的输出信号。
在训练神经网络时,我们需要用到训练数据集。训练数据集中包含输入信号(X1和X2)以及相应的目标输出(Z)。网络训练是一个迭代过程,在每次的迭代中,节点的权重系数会根据训练集中的新数据进行修正。
一、计算初始参数
最初的权重系数按如下方法进行计算: </