深度学习学习笔记（一）

最新推荐文章于 2024-04-16 22:20:30 发布
最新推荐文章于 2024-04-16 22:20:30 发布
阅读量449 收藏 1
点赞数
分类专栏： 笔记 文章标签： 深度学习 神经网络 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44727457/article/details/110443876
版权
本文介绍了深度学习中神经网络输入图像尺寸的灵活性，特别是全局平均池化的作用和实现，以及如何减少模型参数和计算量。讨论了Batchsize对训练的影响，并提供了计算显存消耗的思路。最后，提到了通过裁剪图像和调整模型结构来解决显存问题的方法。
摘要由CSDN通过智能技术生成

神经网络的输入图像的尺寸是否可变？

卷积神经网络里输入图像大小何时是固定，何时是任意？
简单来说，如果一个神经网络中只有卷积层，那么这个网络的输入就不是那么的重要，但是如果神经网络中有全连接层，由于经过同样的模型卷积之后，最后一层卷积层的输出层是一个n维向量，而不是扁平化的，所以如果做分类的话，就加一个全局平均池化这样就构成了一个没有全连接层的网络，可以使得网络的输入无所谓输入图片的维度，都可以正常的运行，最后出来输出的是一个热度图。（全局平均池化可不可以减少什么网路的参数？）
FCN全卷积网络
第二种方法是使用SPP，空间金字塔池化，引入SPP之后，在卷积层与全连接层之间加一层，用来调整卷积层的维度，这样也可以。

什么是全局平均池化？代码怎么实现？

什么是自适应平均池化（这边文章帮助我深刻理解了什么是自适应）
全局平均池化之后的模型是长这个样子的

(avgpool): AdaptiveAvgPool3d(output_size&
最低0.47元/天 解锁文章
袁嘉晨
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
39、平均池化和全局平均池化
AI与算法都要通俗易懂
12-15 2041
在了解了池化算法的基本概念之后，继续了解一个应用很广泛的池化，叫作全局平均池化。先看下平均池化。平均池化就是在池化核标定的范围内，对像素取平均值然后作为输出。在很多AI框架或算法描述中，平均池化大概可以分为两种：一种叫作adaptive average pool(自适应平均池化）, 另一种叫作 globle average pool（全局平均池化）。自适应平均池化，单从算法本身讲，可以看做就是普通的池化，它的池化核可大可小，依据神经网络的算法和结构设计来决定。
Pytorch当中nn.AvgPool3d()和nn.AdaptiveAvgPool3d()的区别
m0_57317650的博客
12-19 1842
总的来说，nn.AvgPool3d()需要手动指定池化窗口的大小，而nn.AdaptiveAvgPool3d()允许动态地指定输出的目标大小，更加灵活。选择使用哪个池化层取决于具体的需求和场景。
【AdaptiveAvgPool3d】pytorch教程
CSPhD-winston的博客
07-23 2261
N表示batch_size、C代表channels、D是视频流的深度、H是每帧图像的高度，W是每帧图像的宽度 视频流，每帧都是一个或RGB或灰度图，且每帧的通道数都是一样的，假设为3，对于一 个固定的视频流，其应用Conv3d的输入大小应为(1,3, d, h, w), 其中1等于batch size, 3等于输入channels， d是视频流的深度，h是每帧图像的高度，w是每帧图像的宽度。.........
nn.AdaptiveAvgPool3d
qq_42745706的博客
02-20 2584
nn.AdaptiveAvgPool3d 官方解释： class AdaptiveAvgPool3d(_AdaptiveAvgPoolNd) | AdaptiveAvgPool3d(output_size: Union[int, Tuple[int, ...]]) -> None | | Applies a 3D adaptive average pooling over an input signal composed of several input planes. | |
pytorch 今日小知识3——nn.MaxPool3d 、nn.AdaptiveAvgPool3d、nn.ModuleList
qq_53536373的博客
04-16 875
你可以把任意 nn.Module 的子类 (比如 nn.Conv2d, nn.Linear 之类的) 加到这个 list 里面，方法和 Python 自带的 list 一样，无非是 extend，append 等操作。但不同于一般的 list，加入到 nn.ModuleList 里面的 module 是会自动注册到整个网络上的，同时 module 的 parameters 也会自动添加到整个网络中。它会根据目标输出大小自适应地调整池化窗口的大小，以保证输出的大小和目标大小一致。3.在复现代码过程中遇到了。
深度学习笔记（一）
AndyCao9527的博客
07-17 8877
1.1 CNN基本原理CNN的基本结构包括两层，其一为特征提取层，每个神经元的输入与前一层的局部接受域相连，并提取该局部的特征。一旦该局部特征被提取后，它与其它特征间的位置关系也随之确定下来；其二是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射是一个平面，平面上所有神经元的权值相等。特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数，使得特征映射具有位移不变性。此外
深度学习入门课程笔记案例
03-18
深度学习是人工智能领域的一个重要分支，它通过模拟人脑神经网络的工作原理，构建多层的非线性模型，以解决复杂的数据分析和模式识别问题。本压缩包“2024dl-master”很可能是某个深度学习入门课程的资料集，包含了...
deeplearning深度学习笔记
12-26
" Deeplearning深度学习笔记" 本文档是吴恩达老师深度学习课程(deeplearning.ai)的...Deeplearning.ai深度学习课程笔记（V5.7）是一个非常实用的资源，旨在帮助学生掌握深度学习技术，并在人工智能领域开启职业生涯。
PyTorch的自适应池化Adaptive Pooling实例
12-23
简介 自适应池化Adaptive Pooling是PyTorch含有的一种池化层，在PyTorch的中有六种形式： 自适应最大池化Adaptive Max Pooling： torch.nn.AdaptiveMaxPool1d(output_size) torch.nn.AdaptiveMaxPool2d(output_size) torch.nn.AdaptiveMaxPool3d(output_size) 自适应平均池化Adaptive Average Pooling： torch.nn.AdaptiveAvgPool1d(output_size) torch.nn.AdaptiveAvg
音频深度学习的听课笔记
04-17
《音频深度学习的听课笔记》主要涵盖了音频处理与深度学习技术的融合，是现代智能音频应用的核心。在当今数字化时代，音频数据的处理和分析变得越来越重要，深度学习以其强大的模式识别能力，为音频领域的研究提供了...
深度学习Cup-main笔记
最新发布
05-31
总的来说，这份深度学习笔记将引导我们逐步深入这个充满潜力的领域，从基础概念到高级应用，全方位地掌握深度学习的知识和技术。无论是初学者还是有一定经验的学习者，都能从中获益匪浅，不断提升自己的技能水平。
深度学习高数学习笔记
03-09
深度学习是现代人工智能领域的重要分支，它依赖于复杂的数学模型，尤其是高等数学中的概念和理论。这份"深度学习高数学习...这份笔记将是你探索深度学习内在机制的宝贵资源，帮助你成为一名更优秀的深度学习工程师。
深度学习入门笔记（一）
01-06
单个神经元网络 简化表示 正向传播：W*X+B=y W,B为参数，X为样本值，y为预测值，Y为标签值 反向传播：根据差值标签值Y-预测值y，对W和B进行相应的调整。 循环往复进行 softmax分类算法 得出分别为y1,y2,y3的概率 ...
pytorch中的池化函数
thy0000的博客
10-13 3741
PyTorch 提供了多种池化函数，用于对输入数据进行不同类型的池化操作。这些池化函数允许你对不同维度的输入数据进行平均池化或最大池化，并且有自适应版本，可以自动调整输入大小以满足指定的输出大小。选择适当的池化函数取决于你的应用和输入数据的维度。
池化分类、作用简单总结
weixin_44605171的博客
09-15 4010
池化分类 平均池化：对邻域内特征点求平均 正向传播：邻域内取平均 反向传递：梯度根据邻域大小被平均，然后传递给索引位置 参考链接：平均池化 最大池化：对邻域内特征点求最大值 正向传播：邻域内求最大值，并记住索引位置，用于反向传播 反向传播：梯度传播到邻域内最大值的索引位置，其他位置补0 参考链接：最大池化 全局平均池化：特征图全局平均一下输出一个值，常与全连接层做对比 全局自适应池化：自适应池化Adaptive Pooling会根据输入的参数来控制输出output_size，而标准的Max/AvgP
pytorch中池化函数详解
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
12-25 2746
PyTorch 提供了多种池化函数，用于对输入数据进行不同类型的池化操作,包含平均池化、最大池化、全局池化等
学习笔记29-池化使用方法（池化选择法则）
LZL2020LZL的博客
03-30 3406
池化意义： 池化层往往在卷积层后面，通过池化来降低卷积层输出的特征向量，同时改善结果（不易出现过拟合）。 一般池化方法 平均池化(averager pooling) 平均池化是对池化模板进行均值化操作，这能保留模板内的数据的整体特征从而背景信息。 优缺点：能很好的保留背景，但容易使得图片变模糊 from torch.nn import functional as F scale1 = F.avg_pool2d(x, kernel_size=(3, 3), stride=(1, 1), padding=(1,
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值