卷积神经网络AlexNet
在这一讲中,我们将详细讲解深度学习发展中的重要里程碑AlexNet
。
1. AlexNet的历史
2012年Geoffrey Hintton
的学生ALEX Krizhevsky
构建了一个包含65万多个神经元,待估计参数超过6000万的大规模的卷积神经网络。他以自己的名字命名了这个神经网络叫作AlexNet
,用以解决ImageNet
数据集1000类的分类问题。在2012年,ImageNet
测试比赛上取得了远超Goole
和Facebook
两个大公司的成绩。相比前面讲过的LeNet
,AlexNet
在网络结构上深了很多,即神经网络层数和每层神经元个数多了很多,但其基本思想与LeNet
完全一样,我们看懂了LeNet
后能很容易看懂AlexNet
,下图1是AlexNet的网络结构图。
2. AlexNet网络结构简要分析
从图1也可以看到,它也是由一些卷积层、降采样层和全连接层组成的。需要注意的是层与层之间也有非线性函数和Batch Normalization,图中没有画出。下面举例说明AlexNet的网络结构。
例如在图中第一个卷积层中,输入的是227×227
的彩色图片,由于彩色图片有RGB
三个颜色分量,所以channel数量为3。第一个卷积层有96个11×11×3的卷积核,卷积的步长stride=(4,4)。
根据上一讲的思考题,如果一个M×N
的图像和一个m×n
的卷积核进行操作,移动步长stride=(P,Q)
,即在长的方向上每步移动P
个像素,在宽这个方向上每步移动Q
个像素,请问经过卷积操作后获得的特征图的长H
和宽W
分别是多少呢?
H = f l o o r ( M − m P ) + 1 H=floor(\frac{M-m}{P})+1 H=floor(PM−m)+1
W = f l o o r ( N − n Q )