BP神经网络推导

本人刚开始学习对于推导的正确性不是很有把握，所以仅供参考

神经网络的定义：神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应”。

感知机(Perceptron)由两层神经元组成，如图所示，输入层接收外界输入信号后传递给输出层，输出层是M-P神经元，亦称“阈值逻辑单元”(threshold logic unit)。

感知机能容易地实现逻辑与、或、非运算。更一般地,给定训练数据集,权重w i ( i = 1 , 2 , … , n ) 以及阈值θ θθ可通过学习得到。

神经网络是模仿大脑神经元，建立的模型。模型中的每个神经元都是一个单独的【学习模型】，这些神经元也叫做激活单元(activation unit)

神经网络模型中，通常只有一个输入层，一个输出层，中间层/隐藏层可以有任意多个。所有层加起来构成了整个神经网络模型。每一层的输出变量都是下一层的输入变量。 

 

 这是我手动推到的一部分