【小知识】神奇的深度卷积神经网络AlexNet

图像分类的目的对于机器人具有重大意义，比如，将下图中的动物分类（或识别）为“雪豹”。

ImageNet网站拥有超过一千五百万张高精度图片，大致可以分为2.2万种类别，这些图片由亚马逊劳务众包平台“Amazon Mechanical Turk”搜集并予以标识。

ILSVRC是具有人工智能“世界杯”之称的ImageNet大规模视觉识别挑战赛，从下图可以看到，随着深度神经网络的研究不断深入，ImageNet分类误差越来越小。

深度卷积神经网络举例：SuperVision（SV）

l 7层隐藏加权层

l 650,000个神经元

l 60,000,000个参数

l 630,000,000次互连

采用了线性修正单元、重叠池化、dropout等技术。

AlexNet深度卷积神经网络的结构组成：

输入图片大小：227 x227 x 3

数据接受域（Receptionfield size）大小F：11

跨度stride：4

卷积层输出大小：55 x55 x 96

神经元总数量：55 x 55x 96 = 290,400，每个神经元具有11 x11 x 3 = 363个权值和1个偏置

因此，AlexNet的第一卷积层上的参数个数就有290,400 x 364 =105,705,600！

采用了训练速度更快的激活函数RELU，f(x) = max(0, x)。

以CIFAR-10数据集为例，4层CNN的RELU的训练收敛速度是tanh的6倍。

更多内容下载地址：ImageNet Classification with Deep Convolutional Neural Networks

http://page2.dfpan.com/fs/5lccdj1282a17249163/

更多精彩文章请关注微信号：