神经网络——学习笔记

神经网络是用来解决分类问题的模型。他与感知机有着紧密的联系。

神经网络中，神经元接收到的总输入将与神经元的阈值进行比较，然后通过“激活函数”处理以产生神经元的输出。最理想的激活函数是阶跃函数，但是他不连续，不光滑，所以，采用Sigmoid函数来进行替代。

        感知机只有输出层神经元进行激活函数处理，即只拥有一层功能神经元。

        多层神经网络的学习能力比多层感知机强的多。误差逆传播算法（error BackPropagation，简称BP）是杰出的代表。

        BP神经网络算法：