深度学习笔记一：BP神经网络的介绍和Python代码实现（1）

前言：从开始决定学习深度学习至今，越往后学，越感觉要学的东西还很多，所以从今天开始想以笔记的形式来总结一下自己之前学习的，在这里想先从bp神经网络开始。

1.bp神经网络的理论与推倒（这里参考了《人工神经网络理论、设计及应用_第二版》）：

权值更新的推到如下：

这里篇幅有点大，关于bp神经网络的实现就另外写一篇吧，对实现有兴趣的，请看BP神经网络的介绍和Python代码实现（2）。