炼丹侠必知的11大神经网络结构​汇总

随着深度学习的快速发展，目前已经出现了海量的不同结构的神经网络，本文介绍11种炼丹师都需要知道一点的神经网络结构。

十一大必知网络结构

1.Perceptron

感知机是所有神经网络的基础，主要由全连接层组成，下面是感知机示意图。

2.Feed-Forward Network(FNN)

FNN是有Perceptron组合得到的，由输入层、隐藏层和输出层组成，其结构如下：

3.Residual Networks (ResNet)

深度神经网络最大问题就是当网络深度达到一定程度时就会出现消失梯度的问题，导致模型训练不佳，为了缓解该问题，我们设计了残差网络。它通过一个“跳跃”层传播信息号，大大缓解了梯度消失的问题。