Python神经网络学习(五)--机器学习--简单的神经网络

前言

抱歉时隔这么久再讲神经网络的内容，希望大家还没忘记第二期的内容：分类器是什么东西？https://blog.csdn.net/qq_38431572/article/details/117199679https://blog.csdn.net/qq_38431572/article/details/117199679

 第二期讲的是分类器，而上一期（第四期）的线性回归讲的是预测器，如果大家把概念搞混了，可以去第一期再回顾一下，上面的文章都是3-5分钟的阅读量。

前面回顾

在第一期中已经讲过，代码中神经元就相当于一个小的功能函数，那么当很多个神经元组合起来，就能完成很多的事情了。

多层次的神经网络就是利用每个层次多个神经网络，多层链接，然后就完成了复杂的任务。

本期速看

这次就从三层的神经网络起步，最后完成一个验证码识别的任务（会提供源码和验证码图片，等审核通过后上传到下载里面，评论区提供链接）

本期的公式中，注意我使用的 * 和 · 符号，前面 * 是普通乘法，后面 · 是矩阵点乘。

三层神经网络

一层，一个神经元

先从最简单的开始，这个想必大家已经很熟悉了，一个神经元，接受一个输入，然后通过激活函数计算，计算完成之后的结果和目标值进行比较，然后得到误差，之后把参数+这个误差的一部分（乘以学习率），完成误差更新，重复很多次之后就完成了训练。

三层，每层三个神经元

三层神经元的结构和原理

这个时候比较麻烦，三层的结构是这样的：

看起来乱七八糟的，但是原理还是一样的：

刚开始在输入层接收三个输入的值，通过计算，向右一直传递（向前传递），然后经过隐藏层的计算，经过输出层的计算，得到最终的输出结果，把这个结果和真实的结果比较，得到误差，然后反向计算每一层的误差，根据误差更新参数，重复多次后就得到了最终的结果。

输入层

顾名思义，这个层级仅仅用来输入数据，不会做任何的处理，直接把输入向隐藏层传递，这也符合我们的认知，输入层就是用来输入的，输入什么就应该是什么。

隐藏层

无论隐藏层有多少层，统称为隐藏层，这里隐藏层只有1层，是特殊情况。除了输入层和输出层都是隐藏层。

输出层

对于分类器来讲，一般输出层的数量和分类的数量有关，比如0-9共10个数字，就需要10个输出神经元。具体使用时需要实际调整。

输入在三个层级的流动

输入层-隐藏层

上面的图片有点乱，也令人害怕，不如先看一部分，先看四个节点：

那么，单论这一个隐藏层的节点来看，就非常明了了，这个节点的输入就是：

其中w就是权重，w11代表前一层的第1个->后一层的第1个。w21表示前一层的第2个->后一层的第1个，以此类推，a就是代表网络的输入。

同理，隐藏层其他两个节点的输入也就能算了：