AlexNet论文(ImageNet Classification with Deep Convolutional Neural Networks)学习笔记

最新推荐文章于 2023-05-07 18:00:22 发布
最新推荐文章于 2023-05-07 18:00:22 发布
阅读量942 收藏 3
点赞数
分类专栏： 计算机视觉Paper学习笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/stu14jzzhan/article/details/91835508
版权
本文是关于AlexNet的深度学习笔记，该网络在2012年ImageNet竞赛中取得冠军。AlexNet采用CNN结构，利用ReLU激活函数、多GPU并行训练、局部响应归一化和重叠池化等技术，有效减少了过拟合，提高了模型性能。数据增强和Dropout策略进一步提升了模型的泛化能力。
摘要由CSDN通过智能技术生成

ImageNet Classification with Deep Convolutional Neural Networks学习笔记

第一个典型的CNN是LeNet5网络结构，但是第一个引起大家注意的网络却是本论文所提出的AlexNet。这篇文章的AlexNet网络是在2012年的ImageNet竞赛中取得冠军的一个模型整理后发表的文章。作者是多伦多大学的Alex Krizhevsky等人。Alex Krizhevsky其实是Hinton的学生，这个团队领导者是Hinton。

这个笔记是对论文《ImageNet Classification with Deep Convolutional Neural Networks》综述论文的一些笔记。笔记严格文章的结构来做的。

论文地址: https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf

同时提供一个中英对应翻译的链接: https://www.jianshu.com/p/ea922866e3be

  • 引言
  1. 论述了大规模的、真实的、高质量的图像数据集对物体识别的重要性。处理物体识别的解决方法: 更大规模的数据集 + 更强大的模型 + 更好的避免过拟合的技术。
  2. 现在已经有了大规模的数据集了, 如ImageNet、LabelMe等，而更强大的模型的话，可以使用神经网络，它有足够大的学习容量去carry这样规模的数据集。
  3. 但即便是ImageNet这样的数据集, 其实对于复杂的物体识别问题而言，都是不够的。因此, 一种方法是, 根据对问题的理解，将先验知识揉合进模型中，如本文所使用的CNN网络就是这样。CNN相比于全连接网络，它有更少的连接, 更少的参
最低0.47元/天 解锁文章
zhan建州
关注
专栏目录
AlexNet 《ImageNet Classification with Deep Convolutional Neural Networks》学习笔记
努力学挖掘机的李某某的博客
09-06 2526
AlexNet的主要结构 总共包含8层学习层：5层卷积层和三层全连接层 下面介绍了几个重要的网络结构： 1.ReLU Nonlinearity 相比较于f(x) = tanh(x) 或者 f(x) = (1 + e^-x)^-1这样的饱和非线性（这两个函数在 -1,1 和 0,1附近接近饱和），对于随机梯度下降的方法，f(x) = max(0; x) 也就是ReLU要比两者
论文导读#1：《ImageNet Classification with Deep Convolutional Neural Networks》
qq_41841298的博客
07-08 1007
本文章是笔者读完《ImageNet Classification with Deep Convolutional Neural Networks》后，对于论文的归纳总结，可以给尚未读者作为一个论文概述。
论文笔记——《ImageNet Classification with Deep Convolutional Neural Networks》
u010565910的博客
05-29 617
标题：将深度卷积神经网络用于ImageNet数据集分类(AlexNet) Abstract 作者团队训练了一个大型的深度卷积网络，用于给ImageNet LSVRC-2010的数据集分类（1.2万张高分辨率的图片，包含1000个类别）。ALexNet中包含5个卷积层（后面都跟着一个最大池化层）和3个全连接层，最后是1000条通道的softmax。为了提高训练速度，采用非饱和神经...
AlexNet原文解读
weixin_44921782的博客
05-07 329
图的左侧是一张图片，rgb 3通道，通过不断的卷积，池化（就是提取模式信息，然后就行池化从低级信息提炼高级信息），最后对两块gpu上的信息进行全连接的最后走出分类。作者是通过两块gpu训练，在gpu上运行同样的代码和结构（核不一样），但是在某一些部分会进行通信连接上一层的信息（比如，在gpu 0上128通道那里，变为192通道的位置会去连接gpu 1 的在128通道卷积得到的信息），按找李沐的说法，这个算是特别工程上的实现细节，就算不用运行在两个gpu上也没关系。因此，输出向量的所有元素的和为1。
【AlexNet解读】ImageNet Classification withDeep Convolutional Neural Networks
xiequnyi的博客
08-17 3101
【AlexNet解读】ImageNet Classification withDeep Convolutional Neural Networks   Label  深度学习 模型解读 AlexNet   一．摘要 数据库：ImageNet，开放的深度学习人工标记数据库，根据比赛ImageNet Large-Scale Visual Recognition Challenge (ILSV
【论文】 ImageNet Classification with Deep Convolutional Neural Networks（讲解）
weixin_43763859的博客
11-11 915
首先给出论文地址：ImageNet Classification with Deep Convolutional Neural Networks 这篇论文的模型在当年的LSVRC取得了相当不错的成绩，也是从那时起，卷积神经网络便又火了起来，当然这也得益于硬件设备（主要是GPU）的飞速发展。 本文将按照我觉得一个合理的顺序编写。 ReLU 非线性函数 Local Response Normaliz...
AlexNet 论文总结
01-06
AlexNet 论文总结一、论文翻译摘要（一）引言（二）数据集（三）架构1. ReLU非线性2. 多GPU训练3. 局部响应归一化（LRN）4. 重叠池化5. 整体架构（四）减少过拟合1. 数据增强2. Dropout（五）学习细节（六）结果1. 定性评估（七）探讨二、论文笔记（一）网络架构梳理1. 卷积层 1（conv1）2. 卷积层 2（conv2）3. 卷积层 3（conv3）4. 卷积层 4（conv4）5. 卷积层 5（conv5）6. 全连接层 1（fc1）7. 全连接层 2（fc2）8. 全连接层 3（fc3）（二）局部响应归一化（LRN）1. 为什么要引入LRN层？2. LRN
（AlexNet）ImageNet Classification with Deep Convolutional Neural Networks阅读笔记
chenaxin的博客
05-30 364
基于深度卷积神经网络的ImageNet分类 论文地址：http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks   原作者训练了一个大型的深度卷积神经网络，将ImageNet lsvprc -2010竞赛中的120万张高分辨率图像分类到1000个不同的类中。在测试数据上，获得了前1名和前5名的错误率，分别为37.5%和17.0%，大大优于之前的水平。该神经网络有6000万个
[论文笔记] [2012] [NIPS] ImageNet Classification with Deep Convolutional Neural Networks
Alexzhuan
07-09 531
这篇就是AlexNet的原论文。那年AlexNet在ILSVRC-2012上以超过第二名10.9个百分点夺冠，拉开了卷积神经网络统治计算机视觉的序幕，加速了计算机视觉应用落地。它的创新点在于： 采用ReLU加速大型神经网络训练； 采用LRN（Local Response Normalization）提升网络的泛化能力； 采用 Overlapping Pooling 提升指标； 采用随机裁剪翻转及色彩扰动增加数据多样性； 采用Dropout缓解过拟合。 其中的一些方法和技巧在现在的工作中还是很常见的，比如
AlexNet深度学习综述
04-01
AlexNet深度学习综述，从AlexNet 开始的历史发展，在深度学习方法上的综述
论文笔记：ImageNet Classification with Deep Convolutional Neural Networks
super_chicken的博客
12-04 859
ImageNet Classification with Deep Convolutional Neural Networks概要提出了深度卷积神经网络模型Alexnet，用于对ImageNet图像数据集进行分类。在2012年ILSVRC分类比赛取得top-5错误率15.3%获得冠军。 基于ImageNet训练了卷积神经网络，获得了当时为止最好的分类结果 实现了基于GPU优化的卷积和其他计算，用于训
Deep learning论文笔记一：ImageNet Classification with Deep Convolutional Neural Networks
ms的专栏
11-24 1868
1.简介        ImageNet Classification with Deep Convolutional Neural Networks 发表在NIPS2012上面，在当时引起了不小的轰动，因为这篇文章的方法在ImageNet LSVRC-2010数据集上的分类效果比其他分类效果好很多，Top 5的错误率由25%降到17%。
【论文笔记】—AlexNet—2012-ACM
chaiky的博客
06-01 971
题目：ImageNet Classification with Deep Convolutional Neural NetworksAlexNet为计算机视觉奠定了基础。AlexNet在ImageNet 2012图像分类竞赛中获得了top-5误差15.3%的冠军成绩，首次将深度学习和卷积神经网络用于大规模图像数据集分类，远远优于第二名（top-5错误率为26.2%）和之前的算法，引起巨大轰动。自此之后，计算机视觉开始广泛采用深度卷积神经网络，模型性能日新月异，并迁移泛化到其它计算机视觉任务。AlexNet采
论文笔记--AlexNet--ImageNet Classification with Deep Convolutional Neural Networks
weixin_30443747的博客
02-24 152
Datasets: LabelMe: consists of hundreds of thousands of fully-segmented images ImageNet: consists of over 15 million labeled high-resolution images in over 22000 categories 这篇论文使用的数据集是ImageNet...
AlexNet论文
qq_38897423的博客
12-03 199
Response Normalization用于1，2层，Maxpooling层用于1，2，5，Relu用于所有层 1、作者使用ReLu，大大加快了训练速度，数倍于saturating neurons，如tanh,sigmoid 2、使用Local Response Normalization 3、使用Overlapping Pooling stride=3,size=2 防止过拟合： ...
深度学习文章阅读（一）——Alexnet
wjp_ctt的博客
08-30 727
《ImageNet Classification with Deep Convolutional Neural Networks》 1 文章简要介绍 背景：这篇文章是Hinton团队参加ImageNet2012比赛用的网络，这是第一次用深度网络的方法参加ImageNet比赛，效果较之前的方法获得了极大提升。这个网络又被称为Alexnet，在这个网络之后，更多优秀的网络，如VGG，ResNet被...
AlexNet论文阅读总结及代码
Katrina_ALi的博客
11-02 1597
最近考虑整理一些经典论文的阅读笔记和重点，包括之前看过的以及近期新阅读的，方便之后复习回顾。 　　 　　AlexNet论文地址：http://www.cs.toronto.edu/~fritz/absps/imagenet.pdf 　　 　　AlexNet是2012年在ImageNet比赛上胜出的深度学习模型，并且以明显优势高于传统机器学习模型。虽然已经过去7年，但是其论文中的创新点现在依旧被广泛...
AlexNet论文阅读
mathor的博客
09-28 1087
论文下载 这篇论文的背景作者在参加2010年的ILSVRC比赛，取得了冠军 摘要主要介绍了其神经网络的结构——5个卷积层（每个卷积层(convolutional layersconvolutional\ layersconvolutional layers)后面都跟有池化层(max−pooling layersmax-pooling\ layersmax−pooli...
引用ImageNet classification with deep convolutional neural networks的格式
最新发布
05-19
[1] Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. Advances in neural information processing systems, 25, 1097-1105.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值