深度学习笔记（6）——CNN中的卷积block

最新推荐文章于 2024-07-24 11:21:28 发布
最新推荐文章于 2024-07-24 11:21:28 发布
阅读量1.3w 收藏 27
点赞数 8
分类专栏： 深度学习 文章标签： 深度学习 cnn
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_21190081/article/details/78164952
版权
本文主要介绍GoogleNet系列的CNN网络，包括Inception-v1到Inception-v4及Xception。这些网络通过融合不同尺度的feature map和使用group convolution，提升了网络的性能和泛化能力。Inception-v1引入了1×1卷积来控制channel，减少参数量。Inception-v2和v3进一步优化了卷积核设计，减小计算量。Inception-v4结合了ResNet的shortcut思想。Xception则进行了更深入的改进。
摘要由CSDN通过智能技术生成

因为最近写各种论文所以一直没有更新，准备先开个坑之后再填。这篇博客将是CNN网络的终结篇，之后将会开始介绍RNN网络。

CNN网络最初诞生的时候结构比较简单，都是几个卷积层堆叠一下。但是微软的Resnet和谷歌的Inception系列网络把CNN带到一个设计各种block反复调用的时代。比起传统的CNN网络，新的block设计能够在简化运算的同时保持甚至提高网络的泛化能力。那么本篇博客就来介绍一下现在各种主流block的结构和原理，主要包括Resnet系列（ResNet, ResNeXt, DenseNet, SeNet, ShuffleNet）和GoogleNet系列（Inception-v1, Inception-v2, Inception-v3, Inception-v4, Xception）。

GoogleNet系列

GoogleNet是比较经典的一个系列，主要包括Inception和Xception两个子系列，GoogleNet系列的网络特点在于融合不同尺度的feature map和使用group convolution的思想。

Inception-v1

Inception-v1是第一代GoogleNet，其block没有太多特色的地方，但是相比于VggNet、AlexNet这种方方正正的上古网络，Inception-v1融合不同尺寸的feature map和感受野。实现方式是用三个不同size的卷积核（ 1×1,3×3,5×5 ）去得到不同尺度的feature map，最早的v0版本的inception就是直接用三个卷积核进行卷积，v1做了一个微小的改进就是引入了 1×1

最低0.47元/天 解锁文章
迷川浩浩_ZJU
关注
  • 8
    点赞
  • 踩
  • 27
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
『CV学习笔记』轻量化卷积神经网络MobileNet从V1到V3
AI新视界
12-08 1219
相对重量级网络而言，轻量级网络的特点是参数少、计算量小、推理时间短。更适用于存储空间和功耗受限的场景，例如移动端嵌入式设备等边缘计算设备。因此轻量级网络受到了广泛的关注，其中MobileNet可谓是其中的佼佼者。MobileNetV3经过了V1和V2前两代的积累，性能和速度都表现优异，受到学术界和工业界的追捧，无疑是轻量级网络的“抗把子“。
CNN：经典Backbone和Block
yly的博客
05-22 5911
MobileNets(2017，MobileNets: Efficient Convolutional Neural Networks for Mobile VisionApplications)，主要创新点是使用了depthwise separable convolutions。 Input feature map: FxFxM ，Output feature map: GxGxN的问题。经典的方式是使用N个KxKxM的卷积核，即KxKxM的卷积核的每个channel与FxFxM的feature map.
卷积网络的block_VGG：使用基础卷积块的网络
weixin_39994665的博客
12-17 1161
AlexNet在LeNet的基础上增加了卷积层，但AlexNet对卷积窗口、输出通道数和构造顺序均做了大量的调整。虽然AlexNet指明了深度卷积神经网络有出色的表现，但并没有提供简单的规则以指导后来的研究者如何设计新的网络。VGG网络是Oxford的Visual Geometry Group组提出的，VGG网络是实验室名字的缩写。VGG论文阐述了其在ImageNet 2014挑战赛上的...
经典CNN模型（三）：VGG（PyTorch详细注释版）
最新发布
qq_51872445的博客
07-24 1464
我们常用的是 D 配置，即 VGG-16，如上图，VGG-16 的 “16” 来源于网络中含有的 16 个有可学习权重的层，其中包括 13 个卷积层和 3 个全连接层。所有的卷积层都使用 3x3 大小的卷积核，所有的池化层都使用 2x2 的窗口和步幅为 2，这样可以将特征图的尺寸减半。
Objective-C中的Block
了凡
01-12 617
转载自：http://www.devtalking.com/articles/you-should-know-block/ 1.相关概念 在这篇笔记开始之前，我们需要对以下概念有所了解。 1.1 操作系统中的栈和堆 注：这里所说的堆和栈与数据结构中的堆和栈不是一回事。 我们先来看看一个由C/C++/OBJC编译的程序占用内存分布的结构： 栈区（stack）
卷积网络的block_BlockQNN：NASNet同期，商汤提出block版的MetaQNN | CVPR 2018
weixin_39611049的博客
12-22 150
作为NASNet的同期论文，BlockQNN同样地将目光从整体网络转换到了block-wise，整体思路大概是MetaQNN的block版，增加了一些细节地小修改。配合Early Stop Strategy，计算资源十分少，但性能较同期的NASNet差点   来源：晓飞的算法工程笔记 公众号论文: Practical Block-wise Neural Network Architecture G...
卷积网络的block_卷积网络的稀疏与量化
weixin_39565777的博客
12-16 370
论文: Sparse, Quantized, Full Frame CNN for Low Power Embedded Devices​openaccess.thecvf.comgithub:tidsp/caffe-jacinto​github.comAI爆发的三个条件，算法，算力和数据。深度学习对算力要求极高，如果没有一块性能良好的GPU，那么模型训练和调参将是一件耗时的工作，严重拖慢工作进度...
BlockCNN: A Deep Network for Artifact Removal and Image Compression文献阅读
qq_41206544的博客
12-18 1205
原文地址：http://openaccess.thecvf.com/content_cvpr_2018_workshops/w50/html/Maleki_BlockCNN_A_Deep_CVPR_2018_paper.html GitHub实现地址：https://github.com/DaniMlk/BlockCNN BlockCNN：一个 用于去除伪像和图像压缩的深度网络 摘要：我们提...
深度学习之卷积网络（CNN）
jomes_wang的博客
06-12 1476
1. 什么是CNN 卷积神经网络(Convolutional Neural Networks, CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks)，是深度学习(deep learning)的代表算法之一。 我们先来看卷积神经网络各个层级结构图： 上图中CNN要做的事情是：给定一张图片，是车还是马未知，是什么车也未知，现在需要模型...
学习笔记：深度学习（3）——卷积神经网络（CNN）理论篇
热门推荐
Morganfs的博客
04-12 10万+
深度学习笔记——CNN卷积神经网络理论篇。主要包括CNN的概念、基本原理、类型综述。算是比较完善的一篇文章了。
深度学习基础笔记 (4) ：卷积神经网络 CNN
www.h y p e r p l a s m a.top
05-30 1354
《动手学深度学习》笔记——卷积神经网络 CNN（LeNet、AlexNet、VGG、NiN、GoogLeNet、ResNet、DenseNet）
深度学习CV方向学习笔记5 —— 通道注意力机制
qq_33909645的博客
10-13 4252
个人学习神经网络相关知识的学习记录，本帖记录的是关于注意力机制的知识。 学习资料来源于各博主的帖子、知乎、b站等，在个人理解的基础上加以总结，可能存在理解有误之处，欢迎指正！
深度学习模型结构中Block是什么意思
qq_34425255的博客
03-13 331
Block是指用于构建网络的基本单元，每个block包含卷积层、pooling层等基本操作。
深度学习之-Ddropblock
赵凯月的博客
05-01 308
DropBlock: A regularization method for convolutional networks DropBlock 由原本的Dropout的随机丢弃点改变为丢弃整个块，如上图所述。该论文认为随机丢弃的像素点（其实是特征图的一个点）可能会由他附近的点的关联信息所表示出来，这样就起不到原本想要的正则效果，因此直接丢弃一个块。 方法如下： 输入大小为4维向量,否则会出错....
构建CNN框架的主流block(前言)
欢迎来到小木虫1314的博客
06-25 1178
上次动笔已是3个多月前了，这段时间做实验、写论文、打比赛三件事令人很充实，同时带来的也是一次又一次的心情烦闷，有时想着有个大佬带飞多好。 做实验使我明白了阻碍实验成功的不是代码，而是你能不能 follow 那些 state-of-art,在这个深度学习大行其道的学术界中，你所能想到的神经网络基本上在你的方向都已实现过了，一味的修改网络层数、参数已是out了，当然了，我也见过不少，发的也都是一些可能...
构建CNN框架的主流block(一)——SE和CBAM
欢迎来到小木虫1314的博客
07-09 1万+
SENET是2017年的世界冠军，CBAM是2018年的分类冠军，它和SE一样也是一个模型，现在任何流行网络都可以嵌入这个模块。 博主只是简单的赘述一下这些模块的思想，如有错误请各位大佬指点批评！！！ SE SE全称Squeeze-and-Excitation，它注重通道信息。 SE的出现是为了解决在卷积池化过程中feature map的不同通道所占的重要性不同带来的损失问题。在传统的卷积池化过...
卷积网络的block_基础网络知识
weixin_39885690的博客
12-05 897
CNNfeaturemap:feature map理解_Loong Cheng的博客-CSDN博客​blog.csdn.nethttps://cs.nyu.edu/~fergus/papers/zeilerECCV2014.pdf​cs.nyu.edu残差网络:大师兄：详解残差网络​zhuanlan.zhihu.com残差网络是由一系列残差块组成的（图1）。一个残差块可以用表示为：残差块分成两部分...
卷积网络的block_常见的深度卷积网络结构整理
weixin_39630771的博客
01-17 714
importtorchimporttorch.nn as nnfrom .utils importload_state_dict_from_url__all__ = ['ResNet', 'resnet18', 'resnet34', 'resnet50', 'resnet101','resnet152', 'resnext50_32x4d', 'resnext101_32x8d','wide_r...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值