神经网络原理的可视化

前言

神经网络具有很强的学习能力和自适应自组织能力，而且随着隐含层的数量增大学习能力也将变得更强，因此目前很多场景都使用神经网络，比如深度学习，我们更熟悉的就是阿法狗。

关于神经网络

神经网络已经有很多变种，比如卷积神经网络、循环神经网络等等。

感知器是一种最基础的神经网络，他只有输入层和输出层，感知器只能处理线性可分问题，而对于非线性问题就需要多层神经网络。一般如下图所示，有多个层，比如左边的包含输入层、隐层和输出层，而右边的则包含了两个隐层。每层的神经元与下一神经元全互连，同层之间的神经元不会相连，输入层用于接收输入，经过隐层加工后再到输出层加工并输出。

如何训练多层网络

对于多层网络我们常用误差逆传播算法来训练，而我们最常见的BP神经网络指的是使用误差逆传播来训练的多层前馈神经网络。除此之外其他类型的神经网络也可能会用误差逆传播算法来训练。

总的来说，误差逆传播是使用梯度下降法，通过反向传播不断调整神经网络中各个权重从而使输出层的误差