一、AlexNet
深度卷积神经网络(AlexNet)是由Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton于2012年提出的。它是第一个在ImageNet数据集上获得较低错误率的深度卷积神经网络。AlexNet的成功标志着深度学习的新时代的开始。
论文:Krizhevsky, Alex, Ilya Sutskever, and Geoffrey E. Hinton. “Imagenet classification with deep convolutional neural networks.” Advances in neural information processing systems. 2012.
AlexNet的亮点在于:
1、首次使用GPU进行网络加速训练。
2、使用了ReLU激活函数,而不是传统的Sigmoid激活函数以及Tanh激活函数。
3、使用了LRN局部响应归一化。
4、在全连接层的前两层使用了Dropout随机失活神经元操作,以减少过拟合。
二、参考学习地址
深度学习之卷积神经网络(Convolutional Neural Networks, CNN)
总结
一步一个脚印,lyy加油!