深度学习总结（二）GoogeLeNet

最新推荐文章于 2023-10-25 07:40:00 发布
最新推荐文章于 2023-10-25 07:40:00 发布
阅读量357 收藏 2
点赞数
分类专栏： 深度学习Tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37712157/article/details/90399302
版权

目录

GoogeLeNet网络

Inception V1

Inception V2:

Inception V3

Inception V4

 

GoogeLeNet网络

1、背景知识：

1）、ImageNet-2014竞赛第一名；

2）、V1-V2-V3-V4;

3）、提升：

通过增加宽度、深度来，减少参数，降低计算；

Inception V1

1、核心组件：

1）、Split-Merge->1*1,3*3,5*5

增加网络对多尺度的适应性；增加网络的宽度；

2）、Bottleneck Layer->使用NiN的1*1卷积

降低计算量10*

                             

3）、取消全链接，用一1*1的卷积代替；

全链接层本质上是一个全尺寸的卷积；

全链接层占用了大量的参数：

如：AlexNet: 58.6M(6*6*256*4096 + 4096*4096 + 4096*1

最低0.47元/天 解锁文章
lee_沐
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习论文: ENet: A Deep Neural Network Architecture for Real-Time Semantic Segmentation及其PyTorch实现
mingo_敏
10-22 1362
ENet: A Deep Neural Network Architecture for Real-Time Semantic Segmentation PDF:https://arxiv.org/abs/1606.02147.pdf PyTorch: https://github.com/shanglianlm0525/PyTorch-Networks 2-1 ENet initial block 2-2 ENet bottleneck module
最适合入门的100个深度学习项目
热门推荐
CSDN 精品推荐
10-17 9万+
本专栏整理了《PyTorch深度学习项目实战100例》，内包含了各种不同的深度学习项目，包含项目原理以及源码，每一个项目实例都附带有完整的代码+数据集。
细分：Enet的TensorFlow实现，在Cityscapes数据集上进行了训练
02-06
分割 ENet的TensorFlow实施（ ）基于官方的Torch实施（ ）和PavlosMelissinos的Keras实施（ ），在Cityscapes数据集（ ）上进行了培训。 YouTube视频结果（ ）： 视频中的结果显然可以得到改善，但是由于计算资源有限（个人资助的Azure VM），我没有执行任何进一步的超参数调整。 您可能会收到错误“没有为操作'MaxPoolWithArgmax_1'定义梯度（操作类型：MaxPoolWithArgmax）”。 要解决此问题，我必须将以下代码添加到文件/usr/local/lib/python2.7/dist-packages/
GoogLeNet
CSDN1HAO的博客
06-06 438
GoogLeNet Inception 结构的主要思路是怎样用密集成分来近似最优的局部稀疏结构。对上图做以下说明： 1 . 采用不同大小的卷积核意味着不同大小的感受野，最后拼接意味着不同尺度特征的融合； 2 . 之所以卷积核大小采用1、3和5，主要是为了方便对齐。设定卷积步长stride=1之后，只要分别设定pad=0、1、2，那么卷积之后便可以得到相同维度的特征，然后这些特征就可以直接拼接在一起...
GoogLeNet详解
tt丫的博客
01-07 1万+
​ 目录 一、GoogLeNet网络的背景 二、GooLeNet网络结构 三、GooLeNet的亮点 四、GooLeNet代码实现 一、GoogLeNet网络的背景 想要更好的预测效果，就要从网络深度和网络宽度两个角度出发增加网络的复杂度。 但这个思路有两个较为明显的问题： 首先，更复杂的网络意味着更多的参数，也很容易过拟合； 其次，更复杂的网络会消耗更多的计算资源，而且卷积核个数设计不合理，导致了卷积核中参数没有被完全利用(多数权重都趋近0)时，会造成大量计算资源的浪费
Enet学习（一）
zhuix7788的专栏
04-27 2381
目前正在研究Enet的重传机制； 传输过程如下： while(1) { memset(buff,0,BUFFLEN); ret=fread(buff,1,BUFFLEN,fp); if(ret<=0){ break; } ENetPacket *pa
PyTorch深度学习实战（3）——使用PyTorch构建神经网络
盼小辉丶的博客
06-13 6万+
PyTorch 是一个用于构建深度神经网络的库，具有灵活性和可扩展性，可以轻松自定义模型。在本节中，我们将使用 PyTorch 库构建神经网络，利用张量对象操作和梯度值计算更新网络权重，并利用 Sequential 类简化网络构建过程，最后还介绍了如何使用 save、load 方法保存和加载模型，以节省模型训练时间。
PyTorch深度学习实战（1）——神经网络与模型训练过程详解
盼小辉丶的博客
05-28 6万+
在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。
基于深度学习的小样本分类识别方案总结
herosunly的博客
01-17 7万+
1. 方案一 1.1 算法方案解析 1.1.1 赛题理解 1.1.2 模型选择：尽量使用与数据匹配的SOTA模型 1.1.3 TIM模型介绍 1.1.4 TIM模型-训练 1.1.5 TIM模型-推理 1.1.6 改进思路考虑 1.1.7 基于预训练模型的小样本分类 1.2 下阶段优化思路 2. 方案二 2.1 算法方案解析 2.1.1 赛题理解 2.1.2 数据分析 2.1.3 算法思路 2.1.4 数据预处理 2.1.5 损失函数 2.1.6 其他Tricks 2.2 总结 2.3 展望 3. 方案三
AIGC实战——深度学习 (Deep Learning, DL)
最新发布
盼小辉丶的博客
10-25 5万+
深度学习 (Deep Learning, DL) 是贯穿所有生成模型 (Generative Model) 的共同特征，几乎所有复杂的生成模型都以深度神经网络为核心，深度神经网络能够学习数据结构中的复杂关系，而不需要预先提取数据特征。在本节中，我们将介绍深度学习基本概念，并利用 Keras 构建深度神经网络。
tensorflow实现CCIPCA的图像压缩代码
12-19
CCIPCA是由密西根州立大学翁巨扬教授于2003年，在TPAMI上发表的论文，与传统的主成分分析（PCA）不同，CCIPCA在一个样本集的主成分过程中，不需要对样本的协方差矩阵进行评估，因此，存在Covariance-free这个特性。
GoogLeNet v4
qq_43152949的博客
10-17 416
GoogLeNet v4 3. Architectural Choices 3.1. Pure Inception blocks 从历史上看，我们对于更改体系结构的选择比较保守，我们的实验仅限于改变孤立的网络组件，同时保持网络其余部分的稳定，在inception中，我们决定放弃这个不必要的包袱，并为每个网格大小对Inception block做出统一的选择。 3.2. Residual Incep...
深度学习（十九）——FCN, SegNet, DeconvNet, DeepLab, ENet, GCN
antkillerfarm的专栏
03-12 1万+
前DL时代的语义分割（续） Grab cut Grab cut是微软剑桥研究院于2004年提出的著名交互式图像语义分割方法。与N-cut一样，grab cut同样也是基于图划分，不过grab cut是其改进版本，可以看作迭代式的语义分割算法。Grab cut利用了图像中的纹理（颜色）信息和边界（反差）信息，只要少量的用户交互操作即可得到比较好的前后背景分割结果。 在Grab cut中，R...
MILN：多层在位学习网络
sinat_31425585的博客
06-18 1496
MILN(multilayer In-place Learning Network)应该是继LCA算法提出后，翁巨扬教授提出的第一个发育网络（developmental network），旨在提出一种通用的在位学习（ In-place Learning）网络来模拟大脑皮层抽取特征。在位学习是一种来自于基因等效性原则的生物学概念，每一个神经元都采用共同的基因程序（LCA），独立负责自身在环境......
LCA（Lobe Component Analysis）：叶成分分析
sinat_31425585的博客
09-10 1687
前面提到的CCIPCA可以算作翁巨扬教授提出的第一个心智发育框架IHDR的核心算法，而LCA则是他现阶段提出的where-what-network框架的核心算法，也即是他提到的发育网络的“基因”组成。 CCIPCA对应于PCA（主成分分析）算法，是PCA算法的增强版，使得计算算法在计算判别空间的特征向量时，covariance-free，且学习过程为在线增量式的学习。CCILCA则...
计算机科学与技术会被取消吗,科学网—公开信：敬请中国计算机学会取消对会议和期刊的歧视性分区并公布 - 翁巨扬的博文...
weixin_33443597的博客
06-21 312
尊敬的杜子德老师：您是领导和参与《中国计算机学会推荐国际学术会议和期刊目录》的主要人员之一。以下简称《目录》。此《目录》显然不是仅仅是推荐性质，而是对国际学术会议和期刊进行了歧视性的分区，而把很多其它开创性的学术会议和期刊排除在计算机科学的“10个领域”之外，甚至在第10个“前沿、交叉与综合”领域之外，连一些IEEE Transactions 都排除在外。中国计算机学会的关于目录页称：“学术工委...
图像分割网络设计的一些小技巧
weixin_43572595的博客
11-30 708
图像分割网络设计的一些技巧 (1) 特征图分辨率 为了减小计算量、增大感受野，许多网络都采用缩小特征图分辨率的结构（比如前面提到的SegNet）。但是，过度缩小特征图分辨率则会造成严重的信息丢失，从而造成分割精度的下降。**因此，要尽可能约束下采样的比率。目前被广泛接受的下降比率不超过1/8。**那么还要继续增大感受野该怎么办呢？没错，就是用到空洞卷积了。 (2) 提前下采样 直接用原始分辨率的图片作为网络输入的代价是很高的。由于视觉信息中存在大量的冗余，在输入网络之前，可以对输入做一个预处理，也就是先用一
深度学习：Imagenet Object Classification方法
liujiandu101的博客
03-03 1540
（文／Alfredo Canziani 等）深度神经网络自出现以来，已经成为计算机视觉领域一项举足轻重的技术。其中，ImageNet 图像分类竞赛极大地推动着这项新技术的发展。精确计算水平取得了稳步的增长，但颇具吸引力的模型应用尚未得到合理的利用。 　　本文将综合分析实际应用中的几项重要指标：准确度、内存占用、参数、操作时间、操作次数、推理时间、功耗，并得出了以下几项主要研究结论： 功
[论文笔记]ENet
Lxp_CC的博客
04-03 2259
Abstract ENet专为需要低延迟操作的任务设计，相对于现存的SOTA网络（SegNet），ENet运行速度快18倍，FLops少75倍，参数量少79倍，同时可以产生同等甚至更好的效果 Introduction 尽管CNNs在分类问题上精度越来越高，但当应用到像素级分类时产生的仍是粗糙的空间结果，因此，这些算法常与其他算法级联以改善结果 现存的分割网络都是参数量和计算量很大，不适用与移动设备，因此作者设计了一个为推理速度和高精度优化的新网络。在这个网络结构中没有使用后处理..
深度学习入门大全：李宏毅DeepLearningTutorial
李宏毅的深度学习ppt是一个非常全面的深度学习入门资料，共计300多页，涵盖了深度学习的基本技术、机器学习、数据挖掘等方面的知识点。下面是从该ppt中提取的一些重要的知识点： 1. 机器学习的定义：机器学习是指让...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值