Deep Learning-TensorFlow (12) CNN卷积神经网络_ Network in Network 学习笔记

最新推荐文章于 2024-09-12 09:15:00 发布
最新推荐文章于 2024-09-12 09:15:00 发布
阅读量1w 收藏 16
点赞数 6
分类专栏： TensorFlow 文章标签： Deep Learning CNN 神经网络 NIN Network in Network
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/diamonjoy_zone/article/details/70229148
版权
本文介绍了Network in Network（NIN）模型，它使用Mlpconv Layer（Conv+MLP）增强卷积层的特征提取，并通过全局平均池化层替代全连接层，减少参数，防止过拟合。NIN在CIFAR-10, CIFAR-100等数据集上表现出色，展示了更好的局部抽象能力和较小的过拟合风险。" 98885084,8705165,算法竞赛日志：Day 16 - 奇质数操作与字符串问题,"['算法', '数据结构', '字符串算法', '数学', '编程竞赛']
摘要由CSDN通过智能技术生成

环境：Win8.1 TensorFlow1.0.1

软件：Anaconda3 （集成Python3及开发环境）

TensorFlow安装：pip install tensorflow (CPU版) pip install tensorflow-gpu (GPU版)

TFLearn安装：pip install tflearn


参考：

1. Network In Network, Min Lin, Qiang Chen, Shuicheng Yan

2. Github: tflearn

3. Network in Network-读后笔记


1. 前言


回忆之前介绍的 Google Inception V1，采用分支级联的卷积层、MLPConv 层和全局平均池化层，构建了22层网络结构，使得很好地控制计算量和参数量的同时（ AlexNet 参数量的1/12），获得了非常好的分类性能——top-5 错误率6.67%，在 ILSVRC 2014 的比赛中（和VGGNet 同年）以较大优势取得了第一名。


其网络结构设计很大程度上借鉴了2014年 ICLR 的paper，Network In Network（以下简称 NIN ）。这篇 paper 改进了传统的CNN 网络，采用了少量参数进一步提高了 CIFA

最低0.47元/天 解锁文章
DiamonJoy
关注
专栏目录
用Tensorflow2搭建经典的卷积神经网络（LeNet,AlexNet,VGG16,ResNet50）
QianLong_的博客
06-18 1431
最近看了卷积神经网络的一些经典论文，用Tensorflow2进行了复现，其中包括LeNet,AlexNet,VGG16,ResNet50,并且在数据集上进行了测试，能够正常训练，结果表明搭建的没有问题。 下面进入正题： import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers import numpy as np import matplotlib.pyplot as plt %matpl
学习笔记：深度学习（3）——卷积神经网络（CNN）理论篇
热门推荐
Morganfs的博客
04-12 10万+
深度学习笔记——CNN卷积神经网络理论篇。主要包括CNN的概念、基本原理、类型综述。算是比较完善的一篇文章了。
Network IN Network的理解
leung的博客
12-29 500
  上面二图就是Network IN Network 具体我们可以来看第二张图的一个MLPconverlution，一个MLPconverlution块其实可以分为两步：一个正常的卷积，与一个1*1的卷积（或者说“选择性”的全连接网络） 第一个MLPconverlution是一个224*224*3的input，正常情况下，被96个11*11*3的卷积核（假设步长为N）卷积完之后是一个...
关于 Network-in-network理解和实现
m0_37561765的博客
12-22 9638
NIN论文地址1.出发点：增强模型在其感知野内的辨别能力，通常是由卷积滤波器(一个通用线性模型（GLM))提取各个抽象特征，当这些被提取的特征是线性的，卷积滤波器是够用的，但这显然不符合事实，比如我们要提取 某个特征，于是我就用了一大堆的滤波器，把所有可能的提取出来，这样就可以把我想要提取的特征也覆盖到，然而这样存在一个缺点，那就是网络太恐怖了，参数 太多了。因此作者用一个通用的函数逼近器（mlp）
深度学习的骨干网络
最新发布
浩瀚之水的专栏
09-12 666
骨干网络是深度学习模型中的重要组成部分，负责从原始输入中提取有效的特征表示。不同的骨干网络架构具有各自的特点和优势，适用于不同的任务和场景。在选择骨干网络时，需要根据具体任务的需求、数据的特性以及计算资源的限制进行综合考虑。
Maxout & Network in Network
Marshall的专栏
12-07 1080
Network in Network -- 论文笔记
Tensorflow2——卷积神经网络的搭建
weixin_45392405的博客
05-09 2249
Tensorflow2卷积神经网络的搭建卷积神经网络Fasion_minst识别卷积神经网络搭建代码 卷积神经网络 1、卷积神经网络 CNN最大的特点就是在于卷积的权值共享，利用空间结构减少学习的参数量，防止过拟合的同时减少计算量。在卷积神经网络中，第一个卷积层直接接受图像像素级的输入，卷积之后传给后面的网络，每一层的卷积操作相当于滤波器，对图像进行特征提取，原则上可保证尺度，平移和旋转不变性。 一般的卷积网络包含一下操作： （1）卷积。图像通过不同卷积核卷积并且加偏置（bias），提取局部特征，每一个卷积
notes-machine-learning-master_机器学习笔记_机器学习_
10-03
监督学习包括了如线性回归、逻辑回归、支持向量机（SVM）、决策树、随机森林以及各种神经网络模型，如多层感知机、卷积神经网络（CNN）和循环神经网络（RNN）。其中，线性回归用于连续值预测，而逻辑回归用于二分类...
Deep Learning论文笔记之（四）CNN卷积神经网络推导和实现 - zouxy09的专栏 - 博客频道 - CSDN1
08-04
卷积神经网络（CNN，Convolutional Neural Network）是一种在深度学习领域广泛应用的模型，尤其在计算机视觉任务中表现出色。CNN的特点在于其利用卷积层和池化层来提取和学习图像的局部特征，有效地减少了参数数量，...
tensorflow2函数式API搭建神经网络
qq_41472590的博客
11-19 1154
简单的入门级别神经网络搭建 文章目录框架概念神经网络代码示例注解 框架概念 tensorflow是当今深度学习的主要平台之一，其由谷歌团队开发。现在，keras与tensorflow高度集成在一起，我们的每一段keras代码可运行在TF后台。另外，通过TensorFlow，keras可以在CPU以及GPU上无缝运行。 神经网络 一，深度神经网络是机器学习(ML, Machine Learning)领域中一种技术。一般全连接的神经网络包括了输入层，输出层以及隐藏层几个部分。 二、卷积神经网络卷积神经
AlexNet网络学习
qq_32363469的博客
10-24 816
论文：《ImageNet Classification with Deep Convolutional Neural Networks》 全文翻译：https://blog.csdn.net/hongbin_xu/article/details/80271291 参考资料：https://blog.csdn.net/qq_25800609/article/details/86509645#33_2...
《TensorFlow2.0》二、卷积神经网络在TensorFlow2.0中的应用 part 1
Tian121381的博客
03-27 884
Python版本： Python3.x 运行平台： Windows IDE： jupyter / Colab 转载请标明出处：https://blog.csdn.net/Tian121381 目录一、前言二、猫狗二分类模型用卷积神经网络处理更复杂的图像从零开始建立一个小模型，精度达到〜72％数据预处理训练运行模型补充np.vstack(）函数可视化中间层评估模型的准确性和损失 一、前言 在上一...
基于 Tensorflow 2.x 实现多层卷积神经网络，实践 Fashion MNIST 服装图像识别
小毕超博客
12-18 1427
并且每三个周期保存一次权重，防止意外停止后继续训练，最后保存了。的训练模型，方便后面进行测试预测效果。标签是整数数组，介于。构建多层卷积神经网络，在。上面搭建的模型，训练后会在。数据集更多样化，比常规。张图片，验证集的比例为。数据集，该数据集包含。从训练日志中，可以看到。
TensorFlow2.0 学习笔记（三）：卷积神经网络（CNN）
种树最好的时间是10年前，其次是现在！！！
10-15 6925
专栏——TensorFlow学习笔记 文章目录专栏——TensorFlow学习笔记一、神经网络的基本单位：神经元二、卷积神经网络（CNN）三、基于 tf2.0 实现CNN四、使用 Keras 中预定义的经典卷积神经网络结构 一、神经网络的基本单位：神经元 如果把神经网络的基本单位：神经元和真实的神经细胞（神经元）进行比较的话，会发现在结构上是有一些类似的。 神经网络的神经元示意图如下： 神经细胞...
深度学习：NiN（Network In Network）详细讲解与代码实现
Hanze的博客
10-23 2132
1 * 1卷积实际上就是对特征图所有channel对应的像素点做全连接网络，由于它只考虑了1个像素点，它不像3 * 3卷积那样可以考虑周围像素点，但是可以让特征图在不需要padding的情况下保证的H、W不变，也就是融合了买个像素点不同通道的特征所以它也有跨通道交融的作用。卷积核的数量决定了输出的维度，所以用1 * 1卷积只会改变特征图的channel数，这也就是1 * 1卷积有升维 、降维的作用，在维度降低的同时，计算量也就减少了，模型速度会变快，与此同时，它在保留了空间信息的同时，还增加了非线性激活函数
Network In Network
weixin_37958272的博客
07-07 331
Network In Network 我们提出了一种新的深度网络结构，称为“网络中的网络”（NIN），以提高模型在接受域内对局部补丁（local patches）的可分辨性。传统的卷积层使用线性滤波器和非线性激活函数来扫描输入。相反，我们用更复杂的结构来构建微型神经网络来提取感受野中的数据。我们用一个多层感知器（一个有效的函数逼近器）来实例化微神经网络。通过将微网络以与CNN相似的方式滑动到输入端来获得特征映射，然后将其输入下一层。深度NIN可以通过堆叠上述结构的多个来实现。通过微网络增强的局部建模，我们能
【论文阅读】Network In Network
weixin_53563701的博客
01-16 2688
Network In Network In Network In Network In Network In Network In Network In Network In Network ... In Network
NIN(Network in Network)学习笔记
ouyangfushu的博客
05-14 1万+
NIN(Network in Network)学习笔记 一、前言 《Network In Network》是一篇比较老的文章了（2014年ICLR的一篇paper），是当时比较牛逼的一篇论文，同时在现在看来也是一篇非常经典并且影响深远的论文，后续很多创新都有这篇文章的影子。通常里程碑式的经典是不随时间而黯淡的，同样值得好好学习。 这篇文章采用较少参数就取得了Alexnet的效果，Al...
TensorFlow与深度卷积神经网络：驱动图像识别技术突破
近年来，深度卷积神经网络（Deep Convolutional Neural Network，DCNN）的出现极大地推动了图像识别技术的进步。ImageNet基准测试作为衡量标准，见证了AlexNet（错误率15.3%）、Inception（GoogLeNet，6.67%）、BN-...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值