图像分类之经典卷积神经网络AlexNET、VGG、GoogLeNet、ResNet和DenseNet

1、CNN的架构模型

  CNN是一种前馈网络，即信息流从输入到输出都是单向的。正如人工神经网络(ANN)是受生物学启发的，CNN也是。大脑的视觉皮层由简单细胞和复杂细胞交替组成(Hubel & Wiesel, 1959, 1962)，这激发了他们对CNN架构的设计。CNN的架构有多种变体，通常，它们由卷积层和池化层(subsampling)组成，这些层被分组成模块。在前馈网络中，最后会连接一层或多层全连接层。这些模块通常堆叠在一起，形成一个深层模型。

  图像直接输入到CNN网络中，接下来是几个阶段的卷积和池化，然后，经过一层或多层全连接层的特征表示，最后，经过一个完全连接层输出类标签。

  从科学技术发展角度看，CNN经典框架的发现深受生物神经科学的发展，通过这篇博文《CNN简史》，我们会发现，现代人工神经网络受生物研究的影响可能比我们想象中的还要大。从中可以得到CNN的三个重要思想：a、权值共享 ; b、局部连接（也叫稀疏连接） ; c、平移不变性和等变性
  1.1、权值共享

  特性：使用卷积核的权重系数进行卷积时，在同一张图片上权重值系数是一样的，这就是权值共享。
  好处：大大的减少了参数，加速了训练速度。
  1.2、局部连接

  特性：每个神经元仅与输入神经元的一块区域连接，这块局部区域称作感受野&#