【源码+文档】反向传播神经网络BPNN

反向传播神经网络BPNN

1. 算法原理

1.1 前向传播

1.1.1 加权计算（线性变化）

每个神经元的线性变化部分类似于之前实验中的感知机算法。每个神经元连接上一层的全部节点，上一层的每个节点作为该神经元的输入数据。该节点保存着一个权重向量$\bold w=[w_1,w_2,...,w_n,w_0]$，其中$n$表示上一层的节点数，$w_0$代表偏置，对应的输入值恒为1。对于上一层的输入$\bold x = [x_1,x_2,...,x_n,x_0]$，其中$x_0=1$，加权计算的值为两个向量的点乘，即：

​

1.1.2 激活函数（非线性变化）

考虑到数据集的分布不一定是线性的