chapter-9-卷积神经网络架构

最新推荐文章于 2022-02-16 19:57:50 发布
最新推荐文章于 2022-02-16 19:57:50 发布
阅读量389 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JachinMa/article/details/90381509
版权
本文介绍了从2012年至2014年的重要卷积神经网络架构，包括AlexNet、ZFNet、GoogleNet和VGGNet。AlexNet因GPU限制分为两部分，ZFNet对AlexNet进行优化降低错误率。GoogleNet引入inception模块，通过不同大小卷积核提升性能。VGGNet以深网络和小卷积核为特点。最后，ResNet通过解决深层网络的优化问题，提出残差学习，实现网络层数增加而不影响性能。
摘要由CSDN通过智能技术生成

AlexNet：2012

在这里插入图片描述
这是第一个在ImageNet大赛中取得成绩的卷积神经网络，值得注意的是，它的网络架构分为两部分，这是因为当时的GPU大小不足以支撑一个完整的AlexNet，于是研究者将其分为两部分，使其在两个GPU中运行。

ZFNet：2013

它是AlexNet的一个改进：修改了AlexNet卷积核和步长以及超参数，使其的错误率更低。

GoogleNet：2014

在这里插入图片描述
它的特点是有一个inception module：使用不同大小的卷积核对输入进行处理，并将结果并行输出。这种方法的效果确实不错，但它的问题在于，这对算力的要求过于巨大。

为了解决这个问题，GoogleNet在做大小大于1×1的卷积核的计算前和池化后，使用一个1*1的卷积核对其进行压缩(相当于对其维度进行线性组合)，以减少计算。

可以看到，在整个架构的右侧有两个输出端，它们被称为辅助分类输出端，因为有时候我们仅通过部分神经网络也能够得到一些有用的输出。

VGGNet：2014

最低0.47元/天 解锁文章
JachinMa
关注
9.深度学习之卷积神经网络-2
大勇若怯任卷舒
03-24 119
9.1 卷积过程 9.2 卷积层参数 输入大小为：W1 x H1 x D1 需要指定的超参数：filter个数（K），filter大小（F），步长（S），边界填充（P） 输出： 9.2.1 多输入和输出通道 当输入数据含多个通道时，需要构造一个输入通道数与输入数据的通道数相同的卷积核，从而能够与含多通道的输入数据做互相关运算 当输入通道有多个时，因为对各个通道的结果做了累加，所以不论输入通道数是多少，输出通道数总是为1 卷积层需要设定卷积核对应的大小、步长、个数以及填充的方式，如表
Keras深度学习实战（11）——可视化神经网络中间层输出
盼小辉丶的博客
06-24 7074
我们已经学习了如何构建了卷积神经网络 (Convolutional Neural Network, CNN) 模型，并且看到了其具有的强大性能。但是，有关 CNN 模型学习到的内容，对于我们来说仍然是一个黑匣子。在本节中，将介绍如何提取模型中各种卷积核学习到的内容特征，并对比 CNN 中开始几个卷积层中的卷积核学习到的内容与最后几个卷积层中的卷积核学习到的内容。...............
一篇卷积神经网络的编年史
weixin_34293141的博客
08-02 174
人工神经网络模型整体上的发展过程如下图所示： 上图对比了本文所述的各种神经网络之间，操作复杂度和精度之间的关系。 LeNet5 1998， Yann LeCun 的 LeNet5。 图像特征分布在整个图像上。 在具有很少参数的多个位置上提取类似特征时，具有可学习的参数的卷积是个比较有效的方法。 在没有应用GPU的时候，能够保存参数和计算就成...
卷积神经网络——卷积神经网络基础（9）
weixin_42729843的博客
09-27 287
机器视觉 机器视觉（Computer Vision）是深度学习应用的主要方向之一。一般的CV问题包括以下三类： Image Classification Object detection Neural Style Transfer 1.边缘检测 对于CV问题，我们在之前的笔记中介绍过，神经网络由浅层到深层，分别可以检测出图片的边缘特征 、局部特征（例如眼睛、鼻子等...
用9*9的卷积核分类9*9的图片
staple
08-07 423
(mnist 0,2)-con(9*9)*n-30*2-(1,0)(0,1) 将mnist的0和2用间隔取点的办法处理成9*9的尺寸，用9*9的卷积核去卷积，这个网络能分类吗？ 用一个9*9的卷积核处理9*9的图片，得到的就是一个点。如果能仅用一个9*9的卷积核处理9*9的图片，就表明仅用一个点就可以表达mnist0和2的所有差异。如果可以用两个9*9的卷积核处理9*9的图片就表明可以将mnist的图像尺寸压缩成一个二维的点。所以卷积核的数量的最小值是多少？ (mnist 0,2)-1*30*2.
3x3,5x5,7x7,9x9卷积核性能比较
staple
08-22 3012
在用7*7的卷积核分类9*9的图片到底应该用几个卷积核?中得到了一个经验结论：卷积核越大，网络的性能上升区间越大；上升区间越大，性能峰值越大。要按此分类9*9的图片，9*9的卷积核就是极限性能最优的卷积核。这次就验证这个观点。 (mnist 0,2)-con(9*9)*n-30*2-(1,0)(0,1) 用9*9的卷积核分类mnist0，2，卷积核数量从2到33个，收敛标准6e-5。统计平均值，比较卷积核数量对分类性能的影响。 得到表格 f2[0] ...
Python深度学习之用卷积神经网络处理序列
clownote
08-14 2383
卷积神经网络可以有效利用数据，提取局部特征，将表示模块化。由于这种特效，CNN 不但善于处理计算机时间问题，也可以高效处理序列问题，在有些序列问题上，CNN 的效果、效率甚至可以超过 RNN。
chapter2.zip_BP神经网络_数据预测_神经网络_神经网络 预测_神经网络预测
07-14
不过，需要注意的是，BP神经网络可能存在收敛速度慢、容易陷入局部极小值等问题，因此在实际应用中，可能需要结合其他更先进的神经网络架构，如卷积神经网络（CNN）、递归神经网络（RNN）或深度学习框架（如...
基于matlab 定制神经网络的实现-神经网络的个性化建模与仿真源代码+详细教程
05-19
压缩包中的"chapter41"可能包含第41章的教程内容，涵盖了特定的神经网络主题，如深度学习、卷积神经网络（CNN）或递归神经网络（RNN），也可能是关于训练技巧、正则化策略或模型评估的部分。 总的来说，这个资源...
深度学习——ResNet超详细讲解，详解层数计算、各层维度计算
热门推荐
图南zzz
01-10 7万+
十六、残差神经网络(ResNet) 16.1 缘由 在ResNet之前的网络层数都不是很高，14年的VGG网络才只有19层，但是ResNet的网络层数达到了惊人的152层。许多人会有一个直观的印象，也就是网络层数越多，训练效果越好，但是这样的话VGG网络为什么不采取152层而是采用19层呢？其实是因为训练模型的准确度不一定和模型层数呈真相关的关系。因为随着网络层数的加深，网络准确需出现饱和，会出现下降的现象。 上图中明显可以看出56层的网络比20层网络的训练效果要差，许多人第一反应就是过拟合，但事实并不如
一维卷积神经网络_卷积神经网络的基础知识
qq_35437792的博客
10-18 2万+
原文地址：点击查看 一维卷积 一维卷积的输入是一个向量和一个卷积核，输出也是一个向量。 通常状况下，输入向量长度远大于卷积核的长度。 输出向量的长度取决于卷积操作的填充方案，等宽卷积的输出向量的和输入的向量长度相等。 卷积核的长度通常是奇数，这是为了对称设计的。 一个例子： 一维卷积示例 注意相乘的顺序是相反的，这是卷积的定义决定的。 输出长度是7，卷积核长度是3，输出的长度是7-3+1 = 5。 也就是说这里的卷积操作若输
用7*7的卷积核分类9*9的图片到底应该用几个卷积核?55个
staple
08-06 999
(mnist 0,2)-con(7*7)*n-30*2-(1,0)(0,1) 用7*7的卷积核分类mnist的0和2，将图片用间隔取点的办法缩小到9*9。从1开始不断增加卷积核的数量，观察网络的性能是如何随着卷积核的数量的变化而变化的。卷积核的数量从1到80个，收敛标准δ=6e-5,每个收敛标准收敛199次，统计平均值。 得到的表格 卷积核数量 f2[0] f2[1] 迭代次数n 平均准确率p-ave
为什么CNN模型要使用很多小的卷积核，比如3x3，而不是7x7或者9x9呢？
data+scenario+science+insight
08-08 1941
为什么CNN模型要使用很多小的卷积核，比如3x3，而不是7x7或者9x9呢？ (1)3x3是最小的能够捕获像素八邻域信息的尺寸。 (2)两个3x3的堆叠卷基层的有限感受野是5x5；三个3x3的堆叠卷基层的感受野是7x7，故可以通过小尺寸卷积层的堆叠替代大尺寸卷积层，并且感受野大小不变。所以可以把三个3x3的filter看成是一个7x7filter的分解中间层有非线性的分解, 并且起到隐式正则化的作用。 这一点在VGGNet论文中得到了很好的解释。有两个原因：首先，你可以使用几个较小的..
实验：3*3卷积核10分类9*9图片卷积核数量最优值
staple
06-02 1497
(0,1,2,3,4,5,6,7,8,9)--con(3*3)*n—49*n*30*10 将mnist的图片用间隔取点的办法处理成9*9，用3*3的卷积核，卷积核的数量从1个到57个，收敛标准是1e-4,每个收敛标准收敛199次取平均值，比较卷积核数量的最优值是多少。 得到的表格 f2[0] f2[1] f2[2] f2[3] f2[4] f2[5] ..
深度学习（九）——花式卷积
antkillerfarm的专栏
11-06 3360
深度学习（九）——花式卷积
自学神经网络系列—— 9 卷积神经网络CNN
ML_python_get√的博客
02-16 1060
卷积神经网络1 卷积神经网络背景2 卷积神经网络的基础知识2.1 卷积2.2 卷积神经网络结构2.3 卷积核的填充和步幅3 卷积神经网络的学习3.1 卷积的导数3.2 反向传播算法4 其他卷积 1 卷积神经网络背景 CNN（Convolution Neural Network）是一种包含卷积层、池化层的前馈神经网络，主要用于处理图像信息、文本信息。 卷积神经网络用于处理图像，旨在解决全连接神经网络参数过多的问题。例如将一个1000像素的彩色图像展开1000×1000×3=3M维的向量，假设隐藏层大小为10
让-Flutter-在鸿蒙系统上跑起来，目录：鸿蒙系统适配；渲染流程打通；Flutter在鸿蒙系统上的移植
最新发布
09-29
鸿蒙----目录： 1、鸿蒙系统适配 2、渲染流程打通 3、Flutter在鸿蒙系统上的移植
【PFJSP问题】基于matlab灰狼算法GWO求解置换流水车间调度问题PFSP【含Matlab源码 7899期】.mp4
09-28
Matlab领域上传的视频均有对应的完整代码，皆可运行，亲测可用，适合小白； 1、代码压缩包内容 主函数：main.m； 调用函数：其他m文件；无需运行 运行结果效果图； 2、代码运行版本 Matlab 2019b；若运行有误，根据提示修改；若不会，私信博主； 3、运行操作步骤 步骤一：将所有文件放到Matlab的当前文件夹中； 步骤二：双击打开main.m文件； 步骤三：点击运行，等程序运行完得到结果； 4、仿真咨询 如需其他服务，可私信博主或扫描视频QQ名片； 4.1 博客或资源的完整代码提供 4.2 期刊或参考文献复现 4.3 Matlab程序定制 4.4 科研合作
JAVA数据库课程-Chapter9重点讲解
"JAVA_JAVA课件_chapter9-datebase" 本资源主要涉及Java编程中的数据库操作，包括对SQL语言的基础知识和应用。在Java中，与数据库交互通常是通过JDBC（Java Database Connectivity）API来实现的。JDBC是Java中用于...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值