AlexNet论文理解及Tensorfow实现

1. 基本介绍

AlexNet，是Hinton的学生Alex Krizhevsky在2012年ImageNet比赛夺冠时使用的网络（在ILSVRC-2010上top-1与top-5错误率为37.5%和17.0%，在ILSVRC-2012上top-5错误率为15.3%），在这之后众多优秀网络结构也相继出现，该网络出自论文《‘ImageNet Classification with Deep Convolutional Neural Networks’》。

2. 网络结构

AlexNet由8个学习层组成包括5个卷积层和3个全连接层。

1. conv1
step1（卷积）：
输入：$224\times 224\times 3$的图片(实际上经过预处理变为$227\times 227\times 3$)
卷积核：$11\times 11\times 3$
步长：$4$
数量：$96$（分成两个服务器，每个为$48$个）
卷积后的数据：$55\times 55\times 96\Rightarrow 55=(227-11)/4+1$
step2（ReLU）:
ReLU激励函数

step3（池化）：
最大池化，池化核：$3\times 3$，步长：$2$
池化后的数据（下采样）：$27\times 27\times 96\Rightarrow 27=(55-3)/2+1$

2. conv2
step1(卷积)：
输入：$27\times 27\times 96$，
卷积核：$5\times 5\times 96$，
步长：$1$
数量：$256$
卷积后的数据：$27\times 27\times 256\Rightarrow 27=(27+2\times 2-5)/1+1$

step2（ReLU）：
ReLU激励函数

step3（池化）：
最大池化，池化核：$3\times 3\times 256$，步长：$2$
池化后的数据（下采样）：$13\times 13\times 256\Rightarrow 13=(27-3)/2$