笔记——CNN Architectures（cs231n 斯坦福计算机视觉公开课）

最新推荐文章于 2024-08-24 11:17:37 发布
最新推荐文章于 2024-08-24 11:17:37 发布
阅读量391 收藏 1
点赞数
分类专栏： 斯坦福机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_25222187/article/details/84386606
版权
本文探讨了从LeNet到ResNet的CNN架构演变，包括AlexNet、VGG和GoogLeNet的关键特点。LeNet是早期的代表，AlexNet引入深度学习，VGG通过小卷积核增加深度，GoogLeNet则采用Inception模块减少参数。ResNet通过残差连接解决了深度学习中的梯度消失问题，允许网络进一步加深。
摘要由CSDN通过智能技术生成

常见的 CNN Architectures

  1. LeNet-5

  2. AlexNet 

  3. VGG

  4. GoogLeNet

  5. ResNet

一些计算：

全连接层、卷积、池化操作对于维度的改变：

Fully Connected Layer：暴力拉平操作，不管原来是什么样的长*宽*深。

image \: \: \: size:32\times 32\times \times 3 \Rightarrow 3072 \times 1

假设上图是一个分类神经网络的最后两层，该全连接层连接着输出层，输出层给出十个类别的数值。每一行权重W都表示一个 template，也就是一个类别，比如猫啊狗啊青蛙啊。

         

如图，左边粉色块状image \: \: \: size:32\times 32\times \times 3，右边蓝色块状表示一个卷积核。经过6个5\times 5\times 3的卷积核后

  

得到了一个新的 image：28\times 28\times 6（所以卷积核会改变输入的深度）

卷积操作后的输出：

输入：W_{1}\times H_{1}\times D_{1}

滤波器：K个F\times F\times D_{1}

stride

最低0.47元/天 解锁文章
雀跃的硬骨
关注
专栏目录
斯坦福大学-深度学习-cs230-DeepLearning-官方知识点总结PDF
12-19
斯坦福大学深度学习课程CS230是深度学习领域的权威课程，它涵盖了深度学习的各个方面，包括理论、算法和实际应用等。本文将从斯坦福CS230课程的知识点总结PDF中提取深度学习的核心内容，并详细解读这些知识点。 ...
CNN笔记（CS231N）——CNN架构（CNN Architectures）
shanwenkang的博客
02-11 1068
CNN架构 这一讲主要介绍了一些常用的CNN架构，例如AlexNet、VGG、GoogleNet等 AlexNet AlexNet是一个八层的卷积神经网络，它是第一个采用ReLU激励函数的神经网络 由于当时内存限制，在这个网络中，同一卷积层被分为两个部分放在两个GPU中分别计算。在1、2、4、5层只计算本GPU中的特征图，在3、6、7、8层中将两个GPU中的特征图放在一起计算 ...
[9]CNN Architectures—CNN架构
叶说喜欢你的博客
07-22 429
文章目录LeNet-5AlexNetZFNetVGGNetGoogleNetResNet (残差网络)比较一些别的架构总结 LeNet-5 第一次用CNN来做手写体识别，网络比较浅，只有5层。 AlexNet 其在LeNet上做了一些改进，同时由于当时GPU容量不足，其特征图的前向计算和梯度的反向传播是在两张GPU上并行进行的。 其获得了2012年的ImageNet的冠军 ZFNet 其在AlexNet上做了一些超参数的优化，但是主要结构还是类似的，获得了2013年的ImageNet的冠军
CNN Architecture
RhineYu's Blog
03-31 824
CS231n: Convolutional Neural Networks for Visual Recognition Lecture 9 CNN Architecture 笔记总结 主要根据ILSVRC（ImageNet Large Scale Visual Recognition Challenge）历届冠军论文，把经典的CNN Architecture做了整理，其中有加入个人理解，如有错...
CS231n学习笔记--9.CNN Architectures
Kuekua的专栏
10-06 1059
1. AlexNetTips： Trained on GTX 580 GPU with only 3 GB of memory.Network spread across 2 GPUs, half the neurons (feature maps) on each GPU.所以在CONV1中分为两部分，每部分输出大小为55X55X48！ heavy data augmentation：a. 增大
一文精简介绍CNN神经网络
m0_67912929的博客
05-28 8830
随着卷积网络层数的增加，误差的逆传播过程中存在的梯 度消失和梯度爆炸问题同样也会导致模型的训练难以进行，甚至会出现随着网络深度的加深，模型在训练集上的训练误差会出现先降低再升高的现象。CNN的训练，也称神经网络的学习算法与经典BP网络是一样的，都属于随机梯度下降（SGD：Stochastic Gradient Descent），也称增量梯度下降，实验中用于优化可微分目标函数的迭代算法。在CSDN上2021-11-19发布的一篇深度学习的卷积神经网，内容整理的精简，移动，现在将其进行转载，并发布在公众号“
CNN-Architectures
03-20
本资源"CNN-Architectures"可能包含对不同CNN架构的详细探讨，可能是源代码、论文介绍或者教程资料，但由于具体信息有限，我将主要根据常见和重要的CNN架构来展开讨论。 1. **LeNet**：由Yann LeCun等人在1998年...
CNN综述 A Survey of the Recent Architectures of Deep Convolutional Neural Networks
04-09
### CNN综述：近期深度卷积神经网络架构的概述 #### 概览 本文献综述旨在探讨近年来深度卷积神经网络（Deep Convolutional Neural Networks, CNNs）的最新架构发展及其在图像识别领域的应用。CNN作为一种特殊类型...
CNN_Architectures:Keras主要CNN架构的实现
05-09
所有主要CNN架构的Keras实现 要求 NumPy> = 1.11.1 Keras> = 2.0（在后端使用TensorFlow） Python> = 3.4 可用架构 VGG 16 盗梦空间V3 ResNet 50 密集网 盗梦空间V4 InceptionResnet V2 网络 脚步 在第一行中...
一文彻底搞懂CNN - 模型架构（Model Architecture）
最新发布
2401_85377976的博客
08-24 1125
由输入层、卷积层、池化层以及全连接层组成，通过卷积操作提取图像特征，并通过池化减少参数数量，最终通过全连接层进行分类或回归。输入层：接收原始图像数据，可能需要进行预处理，如归一化、尺寸调整等。卷积层：通过一系列可学习的卷积核（或称为滤波器）对输入图像进行卷积操作，以提取图像中的局部特征。每个卷积核都会生成一个特征图（feature map），这些特征图共同构成了卷积层的输出。池化层：通常位于卷积层之后，用于对特征图进行下采样，以减少数据的空间维度和参数数量，同时保留重要特征。
斯坦福大学公开课 CS231n_Convolutional_Neural_Networks_for_Visual_Recognition PPT
09-05
深度学习-面向视觉识别的卷积神经网络，2016斯坦福大学公开课。课程介绍： 计算机视觉在社会中已经逐渐普及，并广泛运用于搜索检索、图像理解、手机应用、地图导航、医疗制药、无人机和无人驾驶汽车等领域。而这些应用的核心技术就是图像分类、图像定位和图像探测等视觉识别任务。近期神经网络（也就是“深度学习”）方法上的进展极大地提升了这些代表当前发展水平的视觉识别系统的性能。 本课程将深入讲解深度学习框架的细节问题，聚焦面向视觉识别任务（尤其是图像分类任务）的端到端学习模型。在10周的课程中，学生们将会学习如何实现、训练和调试他们自己的神经网络，并建立起对计算机视觉领域的前沿研究方向的细节理解。最终的作业将包括训练一个有几百万参数的卷积神经网络，并将其应用到最大的图像分类数据库（ImageNet）上。我们将会聚焦于教授如何确定图像识别问题，学习算法（比如反向传播算法），对网络的训练和精细调整（fine-tuning）中的工程实践技巧，指导学生动手完成课程作业和最终的课程项目。本课程的大部分背景知识和素材都来源于ImageNet Challenge竞赛。 主讲人： 李飞飞，斯坦福大学计算机科学系副教授。担任斯坦福大学人工智能实验室和视觉实验室主任，主要研究方向为机器学习、计算机视觉、认知计算神经学。她在TED上的演讲，如何教计算机理解图片。
斯坦福CS231n 2017课程资源
10-12
李飞飞 斯坦福CS231n 2017年课程资源，其中包括课程PPT、课程笔记、实验代码、和课程安排。资料齐全，无视频，需要视频的bili自取。
[CS131]2017斯坦福cs131计算机视觉课程ppt
03-25
[CS131]2017斯坦福cs131课程ppt 笔记和课后作业由于上传空间有限在另外一个地址 大家关注公众号“计算机视觉这件小事”或者“AI-ming3526” 回复关键字“cs131”免费获取源码资源
CNN 计算机视觉课程斯坦福大学report
10-21
斯坦福大学2016CNN与计算机视觉课程学生所做的技术报告，有很多CNN有趣的应用
cs231n：Lecture 6: CNN Architectures
2301_79012932的博客
12-08 452
问题2回答：三个3x3的卷积层（步幅为1）的有效感受野与一个7x7的卷积层相同。这是因为通过堆叠多个3x3的卷积层，网络可以学习更复杂的特征，而这些特征在整体上等效于一个较大滤波器的感受野。其次，它们引入了更多的非线性，从而使网络能够学习更复杂的特征。（3x3 卷积） 问题：三个 3x3 卷积层（步幅为 1）的有效感受野是多少？三个 3x3 的卷积层（步幅为 1）堆叠具有与一个 7x7 的卷积层相同的有效感受野。一种构造性的解决方案是从更浅模型中复制已学习的层，并将额外的层设置为恒等映射。
CS231n（四）CNN and Its Architectures
weixin_74760903的博客
03-07 1115
至此，CNN包括了卷积层、池化层、全连接层的这种特殊的神经网络，已经大致介绍完了。在作者看来，CNN工作的过程相较于传统的神经网络来说，它更像一个“全局-局部-全局”的过程。它通过卷积层，池化层，一步一步的提取特征信息（特征反映在卷积核中），不断让更多信息集中，让我们关注的信息凸显，最后再进行评分。
CNN Architecture：从LeNet-5到CapsulesNet
I AM BACK
01-22 2459
LeNet-5 AlexNet VGGNet GoogLeNet ResNet DenseNet CapsulesNet Summary 转载请注明出处： http://blog.csdn.net/c602273091/article/details/79119303 对于LeNet-5和AlexNet的论文我都有认真看过，对于另外的结构略看了paper。这篇博客主要还是以总结为主，对各
[Lecture 9 ] CNN Architectures（CNN架构）
qq_41341454的博客
04-20 627
文章目录课堂提问1. LeNet-52. AlexNet3. ZFNet4. VGGNet5. GoogleNet6. ResNet (残差网络)7. 比较8. 一些别的架构总结推荐阅读 课堂提问 Q1: 为什么学习ResNet中学习残差比学习直接映射要好？ A1: 具体请阅读原论文，但是从直觉上来说，我们直接学习映射，然后网络层堆的越来越多，最后可能太复杂了，但是如果学习残差，则我们加深网络的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值