Pytorch 图像分类（AlexNet，VGGNet，Inception，ResNet，DenseNet，MobileNet）

前言

其实现阶段图像分类网络已经发展的很好了，本文只是简单的罗列一下经典的分类网络的基本思想，不涉及代码。其实在使用pytorch的基础上，里面的TORCHVISION.MODELS已经帮我们封装好了，直接使用就可以。

1. AlexNet

AlexNet是2012年ILSVRC 2012（ImageNet Large Scale Visual Recognition Challenge）竞赛的冠军网络，分类准确率由传统方法的 70%+提升到 80%+（当时传统方法已经进入瓶颈期，所以这么大的提升是非常厉害的）。它是由Hinton和他的学生Alex Krizhevsky设计的。也是在那年之后，深度学习开始迅速发展。

AlexNet 一些性质：

1. 首次利用 GPU 进行网络加速训练。
2. 使用了 ReLU 激活函数，而不是传统的 Sigmoid 激活函数以及 Tanh 激活函数。
3. 使用了 LRN 局部响应归一化。
4. 在全连接层的前两层中使用了 Dropout方法按一定比例随机失活神经元，以减少过拟合。

AlexNet GitHub

2. VGGNet

VGGNet由牛津大学计算机视觉组合和Google DeepMind公司研究员一起研发的深度卷积神经网络。它探索了卷积神经网络的深度和其性能之间的关系，通过反复的堆叠33的小型卷积核和22的最大池化层，成功的构建了16~19层深的卷积神经网络。VGGNet获得了ILSVRC 2014年比赛的亚军和定位项目的冠军，在top5上的错误率为7.5%。目前为止，VGGNet依然被用来提取图像的特征。在原论文中给出了一系列VGG模型的配置，下面这幅图是VGG16模型的结构简图。

VGGNet 一些性质：

1. 通过堆叠多个3x3的卷积核来替代大尺度卷积核（在拥有相同感受野的前提下能够减少所需参数）。
2. VGGNet作者总结出LRN层作用不大，越深的网络效果越好。
3. 11的卷积也是很有效的，但是没有33的卷积效果好，因为3*3的网络可以学习到更大的空间特征。

VGGNet的网络结构如下图所示。VGGNet包含很多级别的网络，深度从11层到19层不等，比较常用的是VGGNet-16和VGGNet-19。VGGNet把网络分成了5段，每段都把多个3*3的卷积网络串联在一起，每段卷积后面接一个最大池化层，最后面是3个全连接层和一个softmax层。

VGGNet GitHub

3. Inception

Google InceptionNet出现在ILSVRC2014年的比赛中（和VGGNet同年），并以较大优势夺得了第一名的成绩，它的top5错误率为6.67%，VGGNet的错误率为7.3%。InceptionNet的最大特点是控制了计算量和参数量的同时提高了网络的性能，它的层数为22，比VGGNet19还深，但是只有15亿次浮点计算和500万的参数量。InceptionNet精心设计的Inception Module也很大程度上提高了参数的利用率。