PyToch 深度学习 || 3. 卷积神经网络 | Ch3.2 卷积神经网络 AlexNet

已于 2023-07-29 11:01:31 修改
阅读量62 收藏
点赞数
分类专栏： Pytorch 深度学习 文章标签： 深度学习 cnn 人工智能
于 2023-06-27 17:02:25 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_40234309/article/details/131420782
版权

卷积神经网络 AlexNet

1. AlexNet的概述

AlexNet由Geoffrey和他的学生Alex提出，并在2012年的ILSVRC竞赛中获得了第一名。Alexnet共有8层结构，前5层为卷积层，后三层为全连接层。

AlexNet网络结构具有如下特点：

（1） AlexNet在激活函数上选取了非线性非饱和的relu函数，在训练阶段梯度衰减快慢方面，relu函数比传统神经网络所选取的非线性饱和函数（如sigmoid函数，tanh函数）要快许多。

（2）AlexNet在双gpu上运行，每个gpu负责一半网络的运算

（3）采用局部响应归一化（LRN）。对于非饱和函数relu来说，不需要对其输入进行标准化，但Alex等人发现，在relu层加入LRN，可形成某种形式的横向抑制，从而提高网络的泛华能力。

（4）池化方式采用overlapping pooling。即池化窗口的大小大于步长，使得每次池化都有重叠的部分。（ps:这种重叠的池化方式比传统无重叠的池化方式有着更好的效果，且可以避免过拟合现象的发生）

2. AlexNet 的网络结构

在这里插入图片描述
第一个卷积层

输入的图片大小为:224*224*3，为后续处理方便，普遍
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Mr_LeeCZ
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
Pytorch-pytorch深度学习教程之卷积神经网络.zip
05-22
卷积神经网络（Convolutional Neural Networks，简称CNN）是深度学习领域中一种重要的神经网络模型，尤其在图像处理和计算机视觉任务中表现卓越。PyTorch是Facebook开源的一个强大的深度学习框架，以其易用性、灵活...
（pytorch-深度学习系列）深度卷积神经网络AlexNet
我亦是行人
10-27 577
深度卷积神经网络AlexNet 在LeNet提出后的将近20年里，神经网络一度被其他机器学习方法超越，如支持向量机。虽然LeNet可以在早期的小数据集上取得好的成绩，但是在更大的真实数据集上的表现并不尽如人意。一方面，神经网络计算复杂。虽然20世纪90年代也有过一些针对神经网络的加速硬件，但并没有像之后GPU那样大量普及。因此，训练一个多通道、多层和有大量参数的卷积神经网络在当年很难完成。另一方面，当年研究者还没有大量深入研究参数初始化和非凸优化算法等诸多领域，导致复杂的神经网络的训练通常较困难。 神经网络
深度学习实践——卷积神经网络实践：裂缝识别
weixin_51735061的博客
07-30 2919
裂缝是一个建筑物中必有的现象，有些裂缝十分地小，需要放大很多倍才能观看到，而有些裂缝却是十分大以至于肉眼可见。一般来说大裂缝是建筑物损坏的体现，研究建筑物的裂缝具有一定的意义。传统的裂缝发现方法是通过目测进行的，而如今进入了机器学习飞速发展的时代，那么是否可以将裂缝识别交给机器呢？因此此次实验的数据集我选择了与本专业相关的裂缝数据集....
AlexNet网络结构详解（含各层维度大小计算过程）与PyTorch实现
weixin_64017116的博客
08-05 4473
以往池化的大小PoolingSize与步长stride一般是相等的，例如：图像大小为256*256，PoolingSize=2×2，stride=2，这样可以使图像或是FeatureMap大小缩小一倍变为128，此时池化过程没有发生层叠。2.激活函数：ReLU。256）卷积核，padding=1，stride=1，所以经过变化（13-3+2。384）卷积核，padding=1，stride=1，所以经过变化（13-3+2。834）卷积核，padding=1，stride=1，所以经过变化（13-3+2。
机器学习——深度学习之卷积神经网络（CNN）——AlexNet卷积神经网络结构
python_AI_fans的博客
06-16 1163
目录 一、AlexNet卷积神经网络结构模型 1、数据库ImageNet 2、AlexNet第一层卷积层 二、AlexNet卷积神经网络的改进 1、非线性变化函数的改变——ReLU 2、最大池化（Max Pooling）概念的提出——卷积神经网络通用 1）池化层 2）最大池化 问题1：在AlexNet中，后向传播时，池化后特征图像的梯度怎么传给池化前的图像？——赢者通吃法 3）池化过程的功能和效果 3、随机丢弃（Drop Out） 问题2：为什么参数要乘以（1-p）？ 4、增加训练
深度学习 Python TensorFlow框架下AlexNet卷积神经网络（学习笔记）
Monica
12-24 418
from __future__ import print_function from tensorflow.examples.tutorials.mnist import input_data import tensorflow as tf #导入minist手写数据集 mnist=input_data.read_data_sets('/mnist',one_hot=True) #定义网络超参...
【动手学深度学习】卷积神经网络(AlexNet)的研究详情
朝花夕拾
06-06 3244
本文详细介绍了卷积神经网络（CNN）中的经典模型AlexNet的研究内容。首先，简要回顾了AlexNet的提出背景，强调其在2012年ImageNet竞赛中的突破性表现。接着，分析了AlexNet的架构，包括五个卷积层和三个全连接层的设计，及其创新点如ReLU激活函数、局部响应归一化和重叠最大池化。随后，讨论了AlexNet在训练过程中采用的数据增强和Dropout技术，以提高模型的泛化能力。最后，结合实验结果展示了AlexNet在图像分类任务上的显著效果，并探讨了其对后续深度学习研究的深远影响。
深度学习实战——卷积神经网络/CNN实践(LeNet、Resnet)
转载请标明出处，完整项目/代码详见github：https://github.com/yiru1225
04-05 9806
本篇博客主要介绍几种卷积神经网络的原理，并进行了代码实践与优化，另外，使用了CAM、图像显著性检测等方法进行了模型的可视化诊断。（内附代码与数据集）。
[动手学深度学习]现代卷积神经网络AlexNet学习笔记
Sherlily的博客
07-19 414
深度学习现代卷积神经网络AlexNet
深度学习系列笔记06现代卷积神经网络
三木今天学习了嘛の博客
10-05 1352
虽然深度神经网络的概念非常简单——将神经网络堆叠在一起。但由于不同的网络结构和超参数选择，这些神经网络的性能会发生很大变化。 本章介绍的神经网络是将人类直觉和相关数学见解结合后，经过大量研究试错后的结晶。 我们会按时间顺序介绍这些模型，在追寻历史的脉络的同时，帮助你培养对该领域发展的直觉。这将有助于你研究开发自己的结构。 例如，本章介绍的批量归一化（batch normalization）和残差网络（ResNet）为设计和训练深度神经网络提供了重要思想指导。
Pytorch手写数字分类 AlexNet卷积神经网络 MNIST 包含绘板识别程序
07-10
# Pytorch手写数字分类 AlexNet卷积神经网络 MNIST 包含绘板识别程序 1. 使用pytorch实现AlexNet手写数字图像分类； 2. 实现了训练代码，运行train.py可以进行训练； 3. 包含训练好的权重文件，保存在ckpt/alexnet_...
Pytorch-pytorch深度学习教程之前馈神经网络.zip
05-22
在深度学习领域，PyTorch是一款非常流行的开源框架，它为构建和训练复杂的神经网络提供了便利。本教程将深入探讨PyTorch中的前馈神经网络（Feedforward Neural Networks，FNN），这是一种基本但重要的网络结构，是...
09.卷积神经网络CNN(深度学习与PyTorch入门实战教程)
03-01
(深度学习与PyTorch入门实战教程)(深度学习与PyTorch入门实战教程)(深度学习与PyTorch入门实战教程)(深度学习与PyTorch入门实战教程)(深度学习与PyTorch入门实战教程)(深度学习与PyTorch入门实战教程)(深度学习与...
pytorch_pytorch_卷积神经网络_
09-29
卷积神经网络（Convolutional Neural Networks，简称CNN）是一种深度学习模型，广泛应用于图像识别、计算机视觉等领域。PyTorch是Facebook开发的一个强大的深度学习框架，它提供了灵活且易于理解的API，使得构建和...
Python代码，强化学习，深度学习
2401_85886655的博客
07-19 716
python代码编写，Python算法设计，强化学习优化，改进模型，训练模型，测试模型，可视化绘制，代编运行结果，交互多模型改进，预测模型，算法修改，Python包管理、数据分析、数据可视化、代码报错等等。Matlab代编，Python代编，神经网络，计算机视觉。问卷分析|数据查找！医学统计，回归分析，空间计量，神经网络。实证分析，事件分析，统计建模，面板模型。相关分析|生存分析，金融计量，各类算法。以上均可，个人保证高质量，保证效率。电子通信机器学习图像处理等。
GPU驱动、CUDA 、cuDNN 和CUDA Toolkit之间的关系（深度学习小白必懂）
最新发布
weixin_44115575的博客
07-23 542
GPU驱动、CUDA、cuDNN和CUDA Toolkit之间有着紧密的关系，它们共同构成了一个完整的GPU编程和深度学习开发环境。 在最初配置anaconda环境时一直搞不明白它们之间的关系。所以根据自己的理解，通俗详细解释它们各自的角色和相互间的关系，并且列举了一些在anaconda虚拟环境中的例子。 不对的地方希望大家指正。
昇思25天学习打卡营第20天 | LSTM+CRF序列标注
嫦娥妹妹等等我的博客
07-21 288
在自然语言处理（NLP）的领域中，序列标注是一个基础且关键的任务，涉及到从文本数据中提取有用信息，如命名实体识别（NER）、词性标注（POS）等。本次学习重点是探索如何结合长短时记忆网络（LSTM）和条件随机场（CRF）来执行序列标注任务，尤其是在命名实体识别上的应用。
实时吸烟检测系统：基于深度学习与YOLO模型的完整实现
a871923942的博客
07-19 636
该系统包含一个用户界面，利用YOLO（You Only Look Once）v8/v7/v6/v5模型进行吸烟检测，并提供了完整的实现步骤和代码。本文介绍了一个基于深度学习的吸烟检测系统，详细描述了从数据收集和标注、模型训练、系统实现到用户界面设计的全过程。通过结合YOLO模型和PyQt5，我们可以实现一个实时、精确的吸烟检测系统，为公共场所的吸烟行为管理提供有力支持。为了训练一个高精度的吸烟检测模型，我们需要一个包含大量吸烟和非吸烟图片的数据集。利用训练好的模型进行吸烟检测，并实现视频流的实时检测。
斯坦福CS231n：深度学习与卷积神经网络视觉识别
课程旨在介绍深度学习特别是卷积神经网络的基础理论、发展历史以及其在视觉识别任务中的强大能力。课程内容涵盖了计算机视觉的历史、CS231n课程的概览，以及CNN的基本原理和应用实例。" 在这份PPT中，讲座首先回顾...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值