前馈神经网络——前向传播

介绍一下前馈神经网络（Feedforward Neural Network,FNN）

       给定一组神经元，可以将神经元作为节点来构建一个网络。不同的神经网络模型有着不同网络连接的拓扑结构。一种比较直接的拓扑结构就是前馈神经网络，也是最早发明的简单的人工神经网络，流行时间也是比较久远。此外，前馈神经网络也经常被称为多层感知器（Multi-Layer Perceptron,MLP）。

        在前馈神经网络中，各个神经元分别属于不同的层。每一层的神经元可以接受前一层神经元的信号，并产生信号送入下一层。首先，第0层称为输入层，最后一层称为输出层，其他中间层称为隐藏层。整个网络无反馈，信号从输入层向输出层单向传播，可以用一个有向无环图表示。

如下给出了前馈神经网络的示例。

现在给出前馈神经网络的记号

 

实现前行传播，以第L-1和第L层来研究前向传播，下面大致流程： 

这样，前馈神经网络可以通过逐层的信息传递，得到最后的输出。