AlexNet网络结构

1. 简介

使用了8层卷积神经网络，前5层是卷积层，剩下的3层是全连接层

2.结构

值得注意的一点：原图输入224 × 224，实际上进行了随机裁剪，实际大小为227 × 227。

2.1 卷积层C1

C1的基本结构为：卷积–>ReLU–>池化

1. 卷积：输入227 × 227 × 3，96个11×11×3的卷积核，不扩充边缘padding = 0，步长stride = 4，因此其Feature Map大小为(227-11+0×2+4)/4 = 55，即55×55×96;
2. 激活函数：ReLU；
3. 池化：池化核大小3 × 3，不扩充边缘padding = 0，步长stride = 2，因此其Feature Map输出大小为(55-3+0×2+2)/2=27, 即C1输出为27×27×96（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为27×27×48）；

2.2 卷积层C2

C2的基本结构为：卷积–>ReLU–>池化

1. 卷积：输入27×27×96，256个5×5×96的卷积核，扩充边缘padding = 2， 步长stride = 1，因此其Feature Map大小为(27-5+2×2+1)/1 = 27，即27×27×256;
2. 激活函数：ReLU；
3. 池化：池化核大小3 × 3，不扩充边缘padding = 0，步长stride = 2，因此其Feature Map输出大小为(27-3+0+2)/2=13, 即C2输出为13×13×256（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为13×13×128）；

2.3 卷积层C3

C3的基本结构为：卷积–>ReLU。注意一点：此层没有进行MaxPooling操作。

1. 卷积：输入13×13×256，384个3×3×256的卷积核， 扩充边缘padding = 1，步长stride = 1，因此其Feature Map大小为(13-3+1×2+1)/1 = 13，即13×13×384;
2. 激活函数：ReLU，即C3输出为13×13×384（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为13×13×192）；

2.4 卷积层C4

C4的基本结构为：卷积–>ReLU。注意一点：此层也没有进行MaxPooling操作。

1. 卷积：输入13×13×384，384个3×3×384的卷积核， 扩充边缘padding = 1，步长stride = 1，因此其Feature Map大小为(13-3+1×2+1)/1 = 13，即13×13×384;
2. 激活函数：ReLU，即C4输出为13×13×384（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为13×13×192）；

2.5 卷积层C5

C5的基本结构为：卷积–>ReLU–>池化

1. 卷积：输入13×13×384，256个3×3×384的卷积核，扩充边缘padding = 1，步长stride = 1，因此其FeatureMap大小为(13-3+1×2+1)/1 = 13，即13×13×256;
2. 激活函数：ReLU；
3. 池化：池化核大小3 × 3， 扩充边缘padding = 0，步长stride = 2，因此其FeatureMap输出大小为(13-3+0×2+2)/2=6, 即C5输出为6×6×256（此处未将输出分到两个GPU中，若按照论文将分成两组，每组为6×6×128）；

2.6 全连接层FC6

FC6的基本结构为：全连接–>>ReLU–>Dropout

1. 全连接：此层的全连接实际上是通过卷积进行的，输入6×6×256，4096个6×6×256的卷积核，扩充边缘padding = 0, 步长stride = 1, 因此其FeatureMap大小为(6-6+0×2+1)/1 = 1，即1×1×4096;
2. 激活函数：ReLU；
3. Dropout：全连接层中去掉了一些神经节点，达到防止过拟合，FC6输出为1×1×4096；

2.7 全连接层FC7

FC7的基本结构为：全连接–>>ReLU–>Dropout

1. 全连接：此层的全连接，输入1×1×4096;
2. 激活函数：ReLU；
3. Dropout：全连接层中去掉了一些神经节点，达到防止过拟合，FC7输出为1×1×4096；

2.8 全连接层FC8

FC8的基本结构为：全连接–>>softmax

1. 全连接：此层的全连接，输入1×1×4096;
2. softmax：softmax为1000，FC8输出为1×1×1000；

在整个过程中，并没有将C1与C2中的Local Response Normalization(局部响应归一化)操作添加在其中，此操作就是将ReLU得到的结果进行归一化，读者可以查看一下原论文。

参考：

AlexNet网络结构详解（含各层维度大小计算过程）与PyTorch实现-CSDN博客

同济子豪兄AlexNet图像分类论文精读

卷积神经网络经典回顾之AlexNet - 知乎

简明易懂——卷积神经网络的输入输出特征图大小计算_输出特征图的大小怎么算-CSDN博客