卷积神经网络CNN---AlexNet

AlexNet采用8层卷积神经网络，并以很大的优势赢得了2012年ImageNet图像识别挑战赛。

包括有五个卷积层，三个全连接层.

论文：ImageNet Classification with Deep Convolutional Neural Networks

一、论文原图

二、输入输出说明

对于AlexNet的输入，在论文中表述的都是224*224*3的大小，但是在后面的图片大小变换过程中，缺失按照227的输入在变换，对于这一点我至今弄不明白，欢迎指正修改。

下面我是按照224*224的输入大小来计算的图片大小，设置成这种连接的方式更为清晰，同时将每一层所需要的激活函数也加入进去。

 

三、LeNet与AlexNet对比

AlexNet实际上是更深更大的LeNet，它们的都是卷积层再加上三个全连接层。

AlexNet的主要改进：（1）池化层改用Max Pooling，原本的LeNet采用的是AvgPooling

                                  （2）激活函数改为ReLU，LeNet的年代较早采用的是sigmoid

                                  （3）加入了丢弃法，正则控制，在第六第七层。

四、参考资料 

1、李沐《动手学深度学习》

2、http://t.csdn.cn/oUHQQ