网络结构

           要想模拟人脑的能力，单一的神经元是远远不够的，需要通过很多神经元一起协作来完成复杂的功能。这样通过一定的连接方式或信息传递方式进行协作的神经元可以看作是一个网络，就是神经网络。

人工神经网络由神经元模型构成，这种由许多神经元组成的信息处理网络具有并行分布结构。

目前常用的神经网络结构有以下三种：

               

前馈网络                         

      前馈网络中各个神经元按接受信息的先后分为不同的组。每一组可以看作一个神经层。每一层中的神经元接受前一层神经元的输出，并输出到下一层神经元。整个网络中的信息是朝一个方向传播，没有反向的信息传播，可以用一个有向无环路图表示。前馈网络包括全连接前馈网络[本章中的第4.3节] 和卷积神经网络[第5章] 等。
         前馈网络可以看作一个函数，通过简单非线性