机器学习知识经验分享之二：4种经典卷积神经网络介绍

---

前言

本系列文章将对机器学习知识进行分享总结。便于大家从理论层面了解人工智能基础原理，从而更好的运用算法发论文写作以及实际应用。关注即免费获取大量人工智能学习资料。

---

随着深度学习在最近几年的迅猛发展，涌现了大量且经典的卷积神经网络，现在通常利用这些网络作为目标检测、图像分割等任务的骨干网络，用于提取特征。本节将介绍几种广泛使用的典型深层卷积神经网络。

1.LeNet-5

LeNet由Le Cun在1998年提出。它因其历史重要性而闻名，因为它是第一。个CNN，它展示了当时手写体识别任务的最佳性能，并且推动了深度学习领域的发展。它具有对数字进行分类的能力，而不受微小的失真、旋转和位置与比例的变化的影响。Le Net-5 的网络结构如图所示。LeNet是一个前馈神经网络，它由五个交替的卷积层和池化层组成，然后是两个全连接层。Le Net不仅减少了参数数量和计算量，而且能够自动学习特征。

2.AlexNet

AlexNet由Krizhevesky等人提出的，被认为是第一个深度CNN架构，它展示了图像分类和识别任务的突破性结果，开启了CNN体系结构研究的新时代。AlexNet的基本体系结构设计如图2-6所示。在AlexNet中，卷积层从5层扩展到7层，使得CNN适用于不同大小的图像。通常情况下，深度会提高不同分辨率图像的泛化能力，但是与深度增加相关的主要缺点是过拟合。为了应对这一挑战，Krizhevesky等人（2012）使用多种技术来防止过拟合，比如Dropout 、ReLU、局部响应归一化等技术。

3. Inception 网络

GoogleNet赢得了2014-ILSVRC竞赛的冠军。GoogLeNet 最大的特点就是使用了 Inception 模块，它的目的是设计一种具有优良局部拓扑结构的网络来降低计算成本同时实现高精度。Inception块的体系结构如图2-7所示。Inception模块中 、和等不同的卷积运算与池化操作可以获得输入图像的不同尺度（细粒度和粗粒度）的空间信息，并行处理这些运算并结合所有结果将获得更好的图像表征。这种拆分、变换和合并的思想整合了多尺度卷积变换进行特征提取，有利于降低运算量同时提升精度。另外，研究人员跟随Inception这条基线，结合一些新技术，演化了多种 Inception 网络版本。典型的包括：Inception v1、Inception v2、Inception v3和Inception v4。

4.ResNet

残差网络（Residual Network，ResNet）由何凯明等人提出，被认为是DeepNets的延续。ResNet通过在CNN中引入残差学习的概念彻底改变了CNN架构，并设计了一种有效的方法来训练深度网络。图2-8给出了一个典型的残差单元示例，通过引入新的神经网络层-残差块，缓解了训练非常深层网络的问题。ResNet利用152层深度CNN，赢得了2015-ILSVRC竞赛。借助于设计更深的网络结构，该模型获得了更高的分类精度。此外，ResNet在著名的图像识别基准数据集COCO上提高28％。ResNet在图像识别和定位任务上的良好性能表明，深度对于许多视觉识别任务至关重要。

总结

本文介绍了卷积神经网络中几种经典的卷积神经网络，后续将持续进行分享更新机器学习相关知识。关注即免费获取大量人工智能学习资料。

参考文献：苏 浩. 基于深度学习的遥感图像目标检测方法[D].本文仅用于学术分享，侵权联系删除。