深度学习——AlexNet网络

网络介绍：

• ImageNet2012竞赛第一名；他标志着DNN深度学习革命的开始；
• 网络包含5个卷积层+3个全连接层；
• 60M个参数+650K个神经元；
• 2个分组——>2个GPU（3G，受限于当时硬件），训练时长一周，50x加速；
• 引入的新技术有：ReLU非线性激活；Max pooling池化；Dropout regularization(主要用于防止过拟合，在判断决策的FC层使用；

模型网络框图如下：

输入图片大小理论上应为 227X227X3（大小为227*227的RGB图）

每一层的结构如下图：

其中LRN为局部响应归一化，具体解释可参考文章：http://blog.csdn.net/hduxiejun/article/details/70570086