阅读论文Imagenet Classification with Deep Convolutional Neural Networks——即对AlexNet的理解

最新推荐文章于 2025-11-19 14:35:12 发布
原创 最新推荐文章于 2025-11-19 14:35:12 发布 · 1k 阅读 · 19 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#论文阅读 #神经网络

简介：AlexNet神经网络具有 6000 万个参数和 650000 个神经元，由五个卷积层组成，其中一些卷积层后跟最大池化层，以及三个完全连接层，最终具有 1000 路 softmax。为了更快地进行训练，使用了非饱和神经元和非常高效的 GPU 卷积运算实现。为了减少全连接层中的过拟合，还采用了 “dropout” 的正则化方法。

文章目录

1.AlexNet的网络结构介绍

AlexNet由5个卷积层，3个池化层，3个全连接层构成。前5个全是卷积层，后3个是全连接层，并且在第一与第二卷积层，第二与第三卷积层以及最后一个卷积层与第一个全连接层之间有最大池化层。具体的网络结构如图所示：
AlexNet网络结构图
从上图看，在网络设计上其实并非如上图所示，上图包含了GPU通信的部分。这是由当时GPU内存的限制引起的，作者使用两块GPU进行计算，因此分为了上下两部分。但是，以目前GPU的处理能力，单GPU足够了，因此其结构图可以如下所示：
AlexNet网络结构图
1.1 第一次卷积到C1层
由上图可以看到，在第一次卷积时输入的图像像素为3×224×224，96个11×11的卷积核，不扩充边缘padding = 0，步长stride = 4，在这里要注意的是原图输入224 × 224，实际上进行了随机裁剪，实际大小为227 × 227。所以根据pytorch官方的Conv2d函数的计算公式，如图：
在这里插入图片描述
所以，可以得到经过第一次卷积后所得到的图像H=(227-10-1)/4+1=55,W=(227-10-1)4+1=55，通道为96，即96×5

最低0.47元/天 解锁文章
AlexNet(论文阅读)：ImageNet Classification with Deep ConvolutionalNeural Networks
m0_54248968的博客
07-11 1253
本文训练了一个大型深度卷积神经网络，用于将ImageNet LSVRC-2010竞赛中的120万张高分辨率图像分类为1000个不同的类别。在测试数据上，我们达到了37.5%的top-1错误率和17.0%的top-5错误率，这明显优于之前的最佳水平。该神经网络拥有6000万个参数和65万个神经元，由五个卷积层组成，其中一些卷积层后面跟着最大池化层，以及三个全连接层，最终是1000路softmax。为了加快训练速度，我们使用了不饱和神经元和卷积操作的非常高效的GPU实现。
《ImageNet Classification with Deep Convolutional Neural Networks》论文导读
谷哥的小弟
09-16 5047
《ImageNet Classification with Deep Convolutional Neural Networks》是一篇在深度学习领域具有重要影响力的论文，由Alex Krizhevsky、Ilya Sutskever和Geoffrey E. Hinton等人撰写。该论文主要介绍了利用深度卷积神经网络（Deep Convolutional Neural Networks，简称CNNs）在ImageNet数据集上进行图像分类的研究，并取得了显著的效果。
【论文阅读】ImageNet Classification with Deep Convolutional Neural Networks
qq_34222839的博客
04-09 1180
AlexNet在ILSVRC-2010和ILSVRC-2012中都取得了前几名的好成绩（ILSVRC-2012冠军）。AlexNet一共有8层：5个卷积层和3个全连接层。并且，作者发现删除任何一个卷积层都会导致模型性能的下降。模型一共训练了5~6天，使用了两块GTX 580 3GB的GPU。并且作者认为如果有更快的GPU和更大的数据集，该模型的结果还会进一步提升。
AlexNet论文解析—ImageNet Classification with Deep Convolutional Neural Networks
xiaoxu的博客
05-26 2191
摘要进行解读1.在ILSVRC-2010的120万张图片上训练深度卷积神经网络，获得最优结果，top-1和top-5error分别为37.5%，17%2.该网络（AlexNet）由5个卷积层和3个全连接层构成，共计6000万参数，65万个神经元3.为加快训练，采用非饱和激活函数一一ReLU，采用GPU训练4.为减轻过拟合，采用Dropout5.基于以上模型及技巧，在ILSVRC-2012以超出第二名10.9个百分点成绩夺冠。快速的泛读论文，确定文章的小标题结构TheDataset。
【论文阅读】AlexNet: ImageNet Classification with Deep Convolutional Neural Networks
orangerfun的博客
06-07 582
AlexNet是一个用于图像识别的卷积神经网络，其应用在ILSVRC比赛中，AlexNet所用的数据集是ImageNet，总共识别1000个类别。
【深度学习系列--经典论文解读】ImageNet Classification with Deep Convolutional Neural Networks
m0_68266123的博客
07-14 1448
AlexNet是深度学习的里程碑式论文，开创了计算机视觉的新时代。该论文提出的深度卷积神经网络在2012年ImageNet比赛中以15.3%的错误率远超传统方法（26.2%），主要创新包括：使用ReLU激活函数加速训练、Dropout防止过拟合、GPU并行计算解决显存限制、数据增强提升泛化能力。虽然存在计算成本高、LRN效果有限等局限，但其深度架构设计理念（5卷积层+3全连接层）和训练方法为后续VGG、ResNet等模型奠定了基础，推动了从手工特征向数据驱动学习的范式转变。
Alexnet论文介绍（超详细）——ImageNet Classification with Deep Convolutional Neural Networks
热门推荐
qq_45843546的博客
04-22 1万+
Alexnet论文介绍（超详细）——ImageNet Classification with Deep Convolutional Neural Networks
AlexNet论文：ImageNet Classification with Deep Convolutional Neural Networks
m0_63855028的博客
03-03 1221
To make training faster, we used 非饱和神经元 + GPUTo reduce overfitting过拟合 in the fully connected layers we employed a recently developed regularization正则化 method called “dropout”
【论文阅读】ImageNet Classification with Deep Convolutional Neural Networks （alexnet）
miracleoa的博客
09-17 1313
文章目录摘要一、介绍二、数据集 摘要 这是近年神经网络兴起的除了LeNet之外的第一个开山之作，在ImageNetSVRC-2010的1000个类的120万张高分辨率图像中，获得了37.5%和17.0%的top-1和top-5的错误率。alexNet由5个卷积层和3个全连接层构成，其中还加入了一些max pooling层，最后用softmax回归的到1000个结果。使用了dropout正则化方法来防止过拟合。 一、介绍 由于之前的方法主要是机器学习的方法，在对CIFAR-10/100等只有数万张的数据集能够
ImageNet Classification with Deep Convolutional Neural Networks-AlexNet
那些年踩过的“坑”
08-08 656
这个网络的成绩（省略） & 网络的主要结构网络有 60 million 参数，650000 神经元，组成了 5 层卷积，后 +最大池化层+ 3个有着softmax的全连接层。nonsaturating非饱和的神经元：即非线性的神经元，引入网络非线性元素，例如ReLu...使用高效的 GPU使得训练的速度加快;使用dropout正则化方式来减少过拟合；（三）PROLOGUE （前言）CNN的一些前期发展困难和反向传播的使用等等...（四）Introduction。
ImageNet Classification with Deep Convolutional Neural Networks.pdf
03-15
标题和描述中提到的知识点是关于使用深度卷积神经网络（Deep Convolutional Neural Networks, DCNNs）进行ImageNet图像分类的研究。ImageNet是一个大规模的视觉识别挑战赛，旨在评估参赛模型的图像分类性能。在这项...
ImageNet Classification with Deep Convolutional Neural Networks
01-21
这反映了当时计算机视觉领域的主流观点——复杂任务需要通过精心设计的、基于对任务深入理解的视觉系统来解决。而随着深度学习技术的快速发展，计算机视觉研究社区开始认识到，比起依赖程序员细致手工设计的方法，...
论文笔记（一百零二）Cambrian-S: Towards Spatial Supersensing in Video（一）
xzs1210652636的博客
11-18 641
我们认为，要在真正的多模态智能上取得进展，就必须从那种被动响应、任务驱动的系统以及单纯依赖“暴力拉长上下文长度”的做法，转向一种更为宏观的“超级感知”（supersensing）范式。我们将空间超级感知划分为超越“仅凭语言理解”的四个阶段：语义感知（给看到的内容命名）、流式事件认知（在连续体验中保持记忆）、隐式三维空间认知（从像素背后推断现实世界），以及预测式世界建模（构建用于过滤和组织信息的内部世界模型）。现有的评测基准大多只覆盖前两个早期阶段，对空间认知的覆盖范围很窄，也很少以真正需要世界建模的方式来挑
移动边缘计算网络中面向成本效益的联邦学习的联合类平衡客户端选择与带宽分配 论文阅读
m0_52695557的博客
11-15 636
联邦学习（FL）在保护数据隐私和减轻移动边缘计算（MEC）网络中的网络负担方面具有巨大潜力。然而，由于移动客户端（MC）的系统和数据异质性，在带宽有限的 MEC 网络中实现成本高效的 FL，客户端选择和带宽分配是关键。为应对这些挑战，我们研究了联合客户端选择和带宽分配问题，以降低 FL 训练的成本（即延迟和能耗）。我们提出了该问题，并将其分解为一个整体子问题以减少轮次数量，以及一个部分子问题以减少每轮 FL 的成本。我们提出了一个联合类别平衡客户端选择和带宽分配（CBCSBA）框架来解决整个问题。具体而言，
【论文阅读】Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond
weixin_65904142的博客
11-16 1047
本文为在下游自然语言处理（NLP）任务中使用大语言模型（LLMs）的从业者与终端用户，提供了一份全面且实用的指南。我们将从模型、数据和下游任务三个维度，探讨 LLMs 的使用方法并分享相关见解。首先，我们将对当前主流的 GPT 类与 BERT 类大语言模型进行介绍和简要概述；其次，分析预训练数据、训练（微调）数据及测试数据对 LLMs 的影响；
【论文阅读笔记】多实例学习方法 Diverse Density（DD）：在特征空间中寻找正概念的坐标
iiiiii11的博客
11-19 711
多实例学习：训练数据以"包"（bag）为单位标记，正包包含至少一个正实例（但不知道具体是哪一个），负包仅含负实例。Diverse Density通过最大化"正包交集与负包并集之差"的概率密度来定位目标概念。
【论文阅读】Gradient-free Decoder Inversion in Latent Diffusion Models
最新发布
weixin_57974242的博客
11-19 728
这篇文章关注的是潜空间扩散模型（LDM）里的解码器反演问题。核心背景：在 LDM 里，扩散是在低维 latent 空间 z 做的，最后通过 decoder D 把 z 变回像素空间 x。理想状态：有一个 encoder E，它是 decoder 的精确逆右逆：D(E(x))≈x （重建像素）左逆：E(D(z))≈z（保持 latent）只保证右逆（重建好看），左逆往往并不成立。
【论文阅读笔记】FL+HC（联邦学习+层次聚类）
si_ying的博客
11-18 494
在联邦学习（FL）中引入层次聚类（HC）形成 FL+HC 方法，通过客户端局部模型更新的相似度聚类，为不同聚类训练专属模型。同时给出了适用于未知非IID数据的默认超参数配置。论文贡献提出 FL+HC 方法，通过单次层次聚类实现专属模型训练，兼顾准确率与通信效率。系统刻画了层次聚类在不同IID/非IID场景下的影响，验证了方法通用性。实证分析超参数影响，给出未知非IID数据的默认超参数（L1距离+全链接）。
论文笔记（一百）GEN-0 / Embodied Foundation Models That Scale with Physical Interaction
xzs1210652636的博客
11-15 767
GEN-0是一种新型具身基础模型，能够在真实物理交互数据上进行多模态训练，实现智能随规模扩展的可预测提升。其关键创新包括： 在70亿参数规模首次观察到机器人领域的"相变"现象，突破智能阈值； 建立了机器人领域的扩展定律，呈现预训练数据量与性能间的幂律关系； 提出谐振推理机制，实现行动与思考的异步协调； 支持跨机型适配，在6-16自由度机器人上测试成功； 基于27万+小时持续增长的物理交互数据集训练。实验表明GEN-0能有效完成复杂物理推理任务，如物体装箱等新任务，标志着具身智能进入规模化
ImageNet Classification with Deep Convolutional Neural Networks
03-08
### ImageNet Classification Using Deep Convolutional Neural Networks Paper Implementation and Explanation #### Overview of the Approach The approach described involves utilizing a deep convolutional ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值