ImageNet Classification with Deep Convolutional Neural Networks 阅读理解及问题

最新推荐文章于 2022-01-17 20:33:51 发布
最新推荐文章于 2022-01-17 20:33:51 发布
阅读量856 收藏
点赞数
分类专栏： 深度学习 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/accomolate/article/details/42586423
版权

看了这篇论文和网上的阅读笔记，还没看代码。有一些问题列在这里，看看自己以后能不能回答。


1. 用GPU加速训练，论文提到是用GPU做2D卷积，而实际的网络都是3D的卷积计算，这个怎么对应？怎样计算3D卷积？


2. 论文中的深度CNNs使用激活函数f(x) = max(0, x), 称为ReLU Nonlinearity。这比sigmoid、双曲正切作为激活函数在训练速度上要快好几倍。那么ReLU在哪些模型上比较适用？是否能说在深度CNNs的训练上都可以用ReLU代替sigmoid? 毕竟在训练速度上有很大的优势。


3. CNN结构图如下

第4、5个卷积层和第3个卷积层的特征图大小相同（13X13），论文说它们之间没有正则化和池化运算，这么说只做了卷积运算？卷积运算不改变特征图大小？如果是这样那么第一层的大小55X55怎么算的，怎么不是56X56（224/4=56）？


4. 在防止过拟合所采用的方法中，altering the intensities of the RGB channels这一步没看明白，这里对哪个对象做PCA？是每个像素、每张图还是整个训练集？

accomolate
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ImageNet Classification with Deep Convolutional Neural Networks
08-06
ImageNet Classification with Deep Convolutional Neural Networks
AlexNet 阅读理解 - ImageNet Classification with Deep Convolutional Neural Networks
长风破浪会有时，直挂云帆济沧海
03-19 2万+
论文理解 - ImageNet Classification with Deep Convolutional Neural Networks [AlexNet - Paper] [原文地址] 关于 AlexNet 的介绍. 博主 Yuens 对论文和网络结构理解真心透彻，膜拜. 转载并非常感谢原博主 - Yuens’s Blog. 这篇文章是Alex Krizhevsk...
【全文翻译】ImageNet Classifification with Deep Convolutional Neural Networks
weixin_43682519的博客
11-15 1133
摘要--我们训练了一个大型的深度卷积神经网络，将ImageNet LSVRC-2010竞赛中的120万张高分辨率图像分类为1000种不同的类别。 在测试数据上，我们实现了前1个和前5个错误率分别为37.5％和17.0％，这比以前的最新技术要好得多。 该神经网络具有6000万个参数和65万个神经元，它由五个卷积层组成，其中一些跟在最大卷积层之后，还有三个完全连接的层，最后是1000路softmax。 为了使训练更快，我们使用了非饱和神经元和卷积运算的非常高效的GPU实现。 为了减少全连接层的过度拟合，我们采用
ImageNet Classification with Deep Convolutional Neural Networks.pdf
03-15
ImageNet Classification with Deep Convolutional Neural Networks.pdf
ImageNet Classification with Deep Convolutional Neural Networks
01-21
By Alex Krizhevsky, Ilya Sutskever, and Geoffrey E. Hinton
【4】Imagenet classification with deep convolutional neural networks.pdf
08-26
We trained a large, deep convolutional neural network to classify the 1.2 million high-resolution images in the ImageNet LSVRC-2010 contest into the 1000 different classes. On the test data, we ...
ImageNet Classification with Deep Convolutional Neural Networks自翻译
03-12
"ImageNet Classification with Deep Convolutional Neural Networks" 本文介绍了使用深度卷积神经网络（Deep Convolutional Neural Networks）进行ImageNet分类的研究结果。作者训练了一个大型的深度卷积神经网络...
《ImageNet Classification with Deep Convolutional Neural Networks》论文阅读
Chris_zhangrx的博客
12-13 1978
Abstract　　在 LSVRC-2010 数据集上我们训练了分成 120 万张分成 1000 类的高分辨率图片，在测试集上分别获得了top-1，top-5 错误率分别是37.5%和17.0%。本神经网络包含6千万个参数，65万个神经元，由 5 个卷积层加 3 个全连接层组成。为了减少过拟合，使用了Dropout策略。同时我们使用这个模型参加了ILSVRC-2012 比赛，相较于第二名 TOP-5
整理ImageNet Classification with Deep Convolutional Neural Networks中的要点
OneCodeMan的博客
02-20 1670
粗略整理： 1.训练时间非常长 2.ReLUs能够数倍提高训练的速度，并且容易避免梯度爆炸（但是存在ReLU变为0的“死亡”现象），并且梯度计算也更加简单（只有0，1），使得训练深度更加深的网络成为可能（或者同等深度时加速训练）。 3.Local Response Normalization没看懂 4.Overlapping Pooling，一种带重叠的pooling方法，可以减少一点点的错
AlexNet网络 分析
weixin_42764391的博客
04-28 510
1. ReLU Nonlinearity 标准的L-P神经元的输出一般使用tanh 或 sigmoid作为激活函数。但是这些饱和的非线性函数在计算梯度的时候都要比非饱和的现行函数f(x)=max(0,x)慢很多，在这里称为 Rectified Linear Units(ReLUs)。在深度学习中使用ReLUs要比等价的tanh快很多。 一般神经元的激活函数会选择sigmoid函数或者tanh函数，...
AlexNet 《ImageNet Classification with Deep Convolutional Neural Networks》学习笔记
努力学挖掘机的李某某的博客
09-06 2499
AlexNet的主要结构 总共包含8层学习层：5层卷积层和三层全连接层 下面介绍了几个重要的网络结构： 1.ReLU Nonlinearity 相比较于f(x) = tanh(x) 或者 f(x) = (1 + e^-x)^-1这样的饱和非线性（这两个函数在 -1,1 和 0,1附近接近饱和），对于随机梯度下降的方法，f(x) = max(0; x) 也就是ReLU要比两者
经典论文AlexNet翻译+理解
阿基美德的博客
08-09 978
AlexNet 论文原文：ImageNet Classification with Deep Convolutional Neural Networks AlexNet，CNN的大火之作。 ILSVR2012冠军，自此掀起CNN研究热潮。 论文主要思想为三、四章，主要挑选此部分进行翻译+理解。 3 The Architecture 网络结构 AlexNet的网络结构如图2所示。它总共包含八层可学习的层——五层卷积层和三层全连接层。接下来，我们将介绍我们的网络结构中全新的以及未曾使用过的点子。3.1-3.4章
Deep Learning 读书笔记（五）：ImageNet Classification with Deep Convolutional Neural Networks
tuqinag的专栏
10-14 8339
捡起好久没有写的博客了
论文研读 —— 6. ImageNet Classification with Deep Convolutional Neural Networks (2/3)
老程的技术笔记
01-17 368
文章目录3. The Architecture3.1. ReLU Nonlinearity3.2. Training on Multiple GPUs3.3. Local Response Normalization3.4. Overlapping Pooling3.5. Overall Architecture4. Reducing Overfitting4.1. Data Augmentation4.2. Dropout5. Details of learning 3. The Architecture
ImageNet Classification with Deep Convolutional Neural Networks（阅读）
深藏功与名
09-08 1万+
相信大家都看过CNN的网络框架，我就先从这篇文章框架说起，下面是Alexnet的网络结构： 这个流程图的制作参考：http://blog.csdn.net/sunbaigui/article/details/39938097 1. conv1阶段DFD（data flow diagram）： 2. conv2阶段DFD（data flow diagram）： 3. conv
【深度学习经典论文翻译1】AlexNet-ImageNet Classification with Deep Convolutional Neural Networks全文翻译
热门推荐
可多的Academic笔记本
03-10 3万+
本文是经典深度学习论文ALEX NET的全文翻译，论文原文和中英对照翻译欢迎点击：http://pan.baidu.com/s/1NpEG2 下载
ImageNet Classification with Deep Convolutional Neural Networks论文翻译——中文版
SnailTyan
07-21 5338
文章作者：Tyan 博客：noahsnail.com  |  CSDN  |  简书 翻译论文汇总：https://github.com/SnailTyan/deep-learning-papers-translation ImageNet Classification with Deep Convolutional Neural Networks...
引用ImageNet classification with deep convolutional neural networks的格式
最新发布
05-19
[1] Krizhevsky, A., Sutskever, I., & Hinton, G. E.... ImageNet classification with deep convolutional neural networks. Advances in neural information processing systems, 25, 1097-1105.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值