ImageNet Classification with Deep Convolutional Neural Networks
概要
提出了深度卷积神经网络模型Alexnet,用于对ImageNet图像数据集进行分类。在2012年ILSVRC分类比赛取得top-5错误率15.3%获得冠军。
- 基于ImageNet训练了卷积神经网络,获得了当时为止最好的分类结果
- 实现了基于GPU优化的卷积和其他计算,用于训练CNN
- 引入了一些新的用于提高CNN表现及减少过拟合的技术
数据集
ImageNet是一个包含约22000个类的约1500万张标记图像的数据集。ILSVRC比赛使用ImageNet的子数据集,包含约1000个类。
预处理:将所有图像处理为256x256,若图像为长方形,则将短边变换为256长边取中间区域。
网络结构
整个网络包括5层卷积层和3层全连接层,其中使用了一些当时的新技术。
ReLU
文章提出了新的激活函数ReLU:
对于深度卷积神经网络,使用ReLU的训练速度远远快于tanh。