人工神经网络原理

       神经网络的基础是神经元，是类似人类大脑中神经系统的神经元来构造的。神经系统中的神经元是神经系统的基本单位，大脑里大概有一百多亿神经元分布在大脑皮层上来处理视觉、味觉、嗅觉、运动、语言、记忆等功能。我们的神经元可以分为三个部分：第一个部分为树突，树突末端是神经末梢，它可以感受到各个方向传来的信号比如疼痛。神经末梢感受到信号后就会传给第二个部分细胞体，细胞体就将各个树突传来的信号进行汇总，并权衡是否要产生激活信号。若产生了激活信号，激活信号便会通过神经元的第三部分轴突传入下一个神经元。

        将人类神经元结构进行数学的抽象就形成了感知器模型：将各个方向的输入与之对应的权重相乘，这个过程就类比于人类神经元的树突。各数据与权重相乘后求和再加上偏置项，再对这个值进行处理并判断是否激活，激活与否由激活函数决定，常用的激活函数有sigmoid、relu等，这个过程就类比于人类神经元的细胞体结构，最后的输出就类比于轴突结构。真实的人类神经网络十分复杂，上述部分只是对神经元的简单抽象，要想实现人类神经网络的功能，就需要将多个感知器堆叠起来形成神经网络。

        对于多层感知机堆叠起来的神经网络结构需要采用非线性的激活函数为网络带来非线性，否则无论堆多少层神经元都与单个线性层无异。通过感知器模型中的非线性激活函数就能够使线性分类器产生非线性的输出。让决策边界变成非线性，改变分类器只能做线性分类的问题，使其能对非线性数据分布进行正确的分类。正是由于非线性，通过多层的堆叠神经网络就能捕捉到非常底层、非常高级的特征和信息，因此现在深度学习热度很高。深度学习简单理解就是通过堆叠提高神经网络的深度，使网络的非线性能够进行各种变换，各种特征能进行汇总和交融。