【cs231n】lecture 9 CNN Architectures

最新推荐文章于 2024-05-30 19:32:25 发布
最新推荐文章于 2024-05-30 19:32:25 发布
阅读量1k 收藏 2
点赞数 1
分类专栏： cs231n学习笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Tra_cy/article/details/102931935
版权
本文介绍了从AlexNet到ResNet的深度学习卷积神经网络架构发展，包括ZFNet、VGGNet和GoogLeNet。讨论了各网络的特点，如AlexNet的大型卷积核，VGGNet的小型卷积核堆叠，GoogLeNet的Inception模块以及ResNet的残差学习，阐述了它们如何解决计算复杂性和优化问题。
摘要由CSDN通过智能技术生成

文章目录


这个专题主要介绍的是几种典型的CNN架构。

AlexNet

在这里插入图片描述
输入：227*227*3的图像矩阵。
第一层（CONV1）：96个步长为4，大小为11*11的卷积核，经过第一层后的输出大小为55*55*96，参数个数为11*11*3*96。
第二层（POOL1）：3*3的卷积核，步长为2，输出大小为27*27*96，池化层没有参数。

ZFNet

在这里插入图片描述
和AlexNet有相同的层数，相同的基本结构，优化了超参。如步长、卷积核数量等超参做了一些改进，降低了错误率，但是基本的思想是一致的。

VGGNet

在这里插入图片描述
VGG的特点是：小卷积核，深网络。
使用小卷积核的原因：保证网络精度的情况下，减少参数，两个3x3的堆叠卷基层的有限感受野是5x5；三个3x3的堆叠卷基层的感受野是7x7，原因如下

最低0.47元/天 解锁文章
Tra_cy
关注
  • 1
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【深度卷积神经网络-Alexnet】
weixin_42622045的博客
04-14 2551
图像分类 当前目录下存放train和val文件夹，每个文件夹下建立每个类别文件夹并存放对应的图片，如下所示，存放ai和house类别图片的文件夹 axlenet.py #coding=utf-8 import torch from torch import nn from torchsummary import summary torch.manual_seed(4) # 构建axlenet网络结构 class Axlenet(nn.Module): # 所有网络结构都需要继承nn.Module
卷积与池化过程维度尺寸变化与一些名词整理
TranSad的博客
02-22 4810
之前整理过全连接层的前向传播过程中一些权重参数的维度。这篇文章整理一下带有卷积与池化的神经网络。还是直接给一个例子，从例子出发把各个方面梳理一下。 以AlexNet为例（如下图）： 卷积 卷积的作用在于提取特征。可以用不同的卷积核提取不同层次的特征 一般用到卷积和池化的网络都是用于图像任务，我们的输入一般就是一个三通道图像，比如上图中输入图像的尺寸为227*227*3。 在上图也就是第一步卷积中，对于输入尺寸为227*227*3的图像，虽然图中写了卷积核的尺寸是11*1...
CNN基础小记
ferb的语音识别学习小站
04-29 436
CNN利用空间关系减少需要学习的参数数目以提高一般前向BP算法的训练性能。 卷积神经网络是一个多层的神经网络，每层由多个二维平面组成，而每个平面由多个独立神经元组成。 卷积网络的核心思想是将：局部感受野、权值共享（或者权值复制）以及时间或空间亚采样这三种结构思想结合起来获得了某种程度的位移、尺度、形变不变性。 我们训练一个神经网络，就是要训练得出这些卷积核，而这些卷积核就相当于我们学单层感知器的时...
带你快速复习深度学习理论知识
最新发布
qq_65738394的博客
05-30 821
深度学习是一个高度复杂的非线性回归方法和机器学习算法，它的概念源于人工神经网络的研究，强调从连续层中学习。其中深度在某种意义上是指神经网络的层数，而学习是指训练这个神经网络的过程。2、深度学习和机器学习的区别最大区别在于二者提取特征的方式不同：深度学习具备自动提取抽象特征的能力，机器学习大多是人们手动选取特征和构造特征。
卷积神经网络详解
Weyoung_的博客
03-07 405
http://cs231n.github.io/convolutional-networks/卷积层其实是将输入的图片按照filter的size与stride分割成许多local regions，然后分别作卷积运算，得到新图片每个点的像素值。假设输入图片为227*227*3，filter有96个，size为11*11*3，stride为4，那么卷积运算后生成的每张图片大小为(227-11)/4+1...
cs231n lecture9 CNN Architectures
feitianlzk的博客
03-20 244
AlexNet CONV - MAXPOOL - NORM(not common) CONV - MAXPOOL - NORM CONV - CONV - CONV - MAXPOOL FC - FC - FC local response normalization VGG deeper (16-19layers) small filter (3x3 CONV stride...
笔记——CNN Architectures（cs231n 斯坦福计算机视觉公开课）
qq_25222187的博客
11-23 390
常见的 CNN Architectures LeNet-5 AlexNet  VGG GoogLeNet ResNet 一些计算： 全连接层、卷积、池化操作对于维度的改变： Fully Connected Layer：暴力拉平操作，不管原来是什么样的长*宽*深。 假设上图是一个分类神经网络的最后两层，该全连接层连接着输出层，输出层给出...
斯坦福CS231n - CNN for Visual Recognition（8）-lecture6学习率更新、超参数调优
zhili8866的博客
12-01 6839
本节主要讲了神经网络学习率退火和超参数调优等问题 学习率更新学习率衰减　　训练深度网络时，让学习率随着时间退火通常很有帮助。如果学习率很高，系统的动能就过大，参数向量就会无规律地跳动，不能够稳定到损失函数更深更窄的部分去。　　何时开始衰减学习率是有技巧的：缓慢减小它，可能很长时间内只能是浪费计算资源地看着它混沌地跳动，实际进展很少。而如果快速地减小它，系统可能过快地失去能量，不能到达原本可以到达的最
[CS231n Assignment 2 #04 ] 卷积神经网络(Convolutional Networks )
qq_41341454的博客
12-11 1975
文章目录作业介绍1. Convolution: Naive forward pass 作业介绍 课堂笔记：[Lecture 9 ] CNN Architectures（CNN架构） 作业主页：Assignment 2 作业目的：为了使深度神经网络更好的得到训练，一个方案是使用更复杂的优化方法：SGD+Momentum，Adam，RMSProp等。另一个方案就是改变网络结构，比如我们这节要完成的批量归一化。 官方示例代码： Assignment 2 code 作业源文件 ConvolutionalNetwo
经典卷积神经网络
清榎的博客
04-05 5106
一、 卷积神经网络的演变 二、经典神经网络 2.1 LeNet5 2.1.1 背景 Y. LeCun, L. Bottou, Y. Bengio, and P. Haffner. Gradient-based learning applied to document recognition. Proceedings of the IEEE, November 1998. LeNet5是由Y.LeCun等人提出的，主要进行手写数字识别和英文字母识别。 2.1.2 结构 ...
ALexNet 图像识别
chang_jx的博客
08-11 816
本文介绍了经典网络AlexNet 网络结构并利用网络对花数据集进行了分类
2D网络模型框架总结1
weixin_42974513的博客
12-14 299
AlexNet:5层 Lenet-5:用于写字错误率小于0.8%，共七层（不包含输入） 输入为32*32像素大小，网络结构如下： Input: 32×32 Conv1:28×28×6 Conv2:14×14×6 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章，了解一下Markdow...
卷积神经网络（CNN）详解
SmartLab307的博客
05-27 3590
卷积神经网络（CNN）详解1. 卷积神经网络结构介绍如果用全连接神经网络处理大尺寸图像具有三个明显的缺点：（1）首先将图像展开为向量会丢失空间信息；（2）其次参数过多效率低下，训练困难；（3）同时大量的参数也很快会导致网络过拟合。而使用卷积神经网络可以很好地解决上面的三个问题。与常规神经网络不同，卷积神经网络的各层中的神经元是3维排列的：宽度、高度和深度。其中的宽度和高度是很好理解的，因为本身卷积就是一个二维模板，但是在卷积神经网络中的深度指的是激活数据体的第三个维度，而不是整个网络的深度，整个网络的深度指
快速理解VGG网络
YLTENG的博客
07-25 2万+
快速理解VGG网络简介一些有用的链接网络结构VGG的特点数据增强方面Layer层的设计（VGG16）参数 简介 VGGNet 是牛津大学计算机视觉组（Visual Geometry Group）和谷歌 DeepMind 一起研究出来的深度卷积神经网络，因而冠名为 VGG。VGG是一种被广泛使用的卷积神经网络结构，其在在2014年的 ImageNet 大规模视觉识别挑战(ILSVRC -2014)中获得了亚军，不是VGG不够强，而是对手太强，因为当年获得冠军的是GoogLeNet。 通常人们说的VGG是指V
经典卷积神经网络（2）--AlexNet卷积网络模型
学习随笔
04-29 3171
背景 2012年，Hinton的学生Alex Krizhevsky借助深度学习相关理论提出了深度卷积网络模型AlexNet.在2012年ILSVRC竞赛中取得top-5错误率为15.3%，并取得大赛第一名。 和LeNet-5模型相比，AlexNet算是它的一个宽泛的版本。 AlexNet的结构如上图所示，共包含了8个学习层——5个卷积层与3个全连接层，相比于之前的LeNet-5网络...
卷积神经网络（CNN）学习
z_xiaocun的博客
06-02 1429
1. 基础概念 卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一。 卷积神经网络是一种多层神经网络，擅长处理图像特别是大图像的相关机器学习问题。CNN最早由Yann LeCun提出并应用...
深度学习之目标检测与目标识别
热门推荐
笨拙的石头的博客
06-05 6万+
本文主要讲述了目标识别中的第一种类型---基于region proposal的目标检测和目标识别的算法, 主要主要包括R-CNN,Fast R-CNN,Faster R-CNN等网络, 揭示了基于region proposal的目标检测和目标识别的算法的发展历程.此外,在开头还简要叙述了目标识别的分类及其应用的主要场景.
卷积神经网络简介
superCally的专栏
01-18 3300
卷积神经网络简介
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值