【池化选择】全局最大池化和全局平均池化的实验分析

最新推荐文章于 2023-10-10 10:31:35 发布
VIP文章 最新推荐文章于 2023-10-10 10:31:35 发布
阅读量6.3k 收藏 17
点赞数 2
分类专栏： 图像检索 语义分割 细颗粒检测 文章标签： 计算机视觉 深度学习 自动驾驶
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jianqiuchen/article/details/106035069
版权

根据MIT的 Learning Deep Features for Discriminative Localization论文中的描述，在使用类响应图class activation mapping (CAM) 对比全局平均池化Global average pooling (GAP) vs 全局最大池化global max pooling (GMP):

类响应图示例：
在这里插入图片描述
图中高亮区域就是根据label的注意图高响应区域

具体得到的这个相应区的方法是

在这里插入图片描述
1） 训练主干网络得到特征图
2） 进行全局池化（图中用的GAP，也可以使用GMP）
3） 对全局池化的结果做全连接得到全连接参数 w
4） 把全连接参数作为权重对特征图进行加权求和 上图最下方的公式

根据对图像的研究发现，不同的类别的特征图相应区域不一样，原始的卷积网络具有一定的定位

最低0.47元/天 解锁文章
JianqiuChen
关注
  • 2
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
什么是全局平均池化，全局最大池化
thequitesunshine007的博客
07-17 1万+
下面举个例子，假如最后的一层的数据是10个6*6的特征图，global average pooling是将每一张特征图计算所有像素点的均值，输出一个数据值。 即对于每一层的6x6=36个像素点，计算这36个像素点的均值（最大值），由于共有10层，所以共得到10个数据。 这样10 个特征图就会输出10个数据点，将这些数据点组成一个1*10的向量的话，就成为一个特征向量，就可以送入到softmax的分类中计算。 ...
全局平均池化/全局最大池化Pytorch实现：
NorthSmile的博客
09-02 1万+
全局池化与普通池化的区别在于“局部区域”和“全局”：普通池化根据滑动窗口以及步长以逐步计算局部区域的方式进行；而全局池化是分别对每个通道的所有元素进行计算，谓之全局池化。大大降低计算的参数量；没有需要学习的参数，可以更好的避免过拟合；更能体现输入的全局信息；拿一个简单的网络验证参数量下降（此处只计算权重）：因为池化操作是沿着通道方向对该通道的特征进行，故对于输入(N,C,H,W)，池化输出为(N,C)。
深度学习之全局池化（“global pooling”）、全局平局池化（“global avg pooling”）、全局最大池化（“global max pooling）
热门推荐
棉花糖的博客
03-03 1万+
参考：https://blog.csdn.net/JNingWei/article/details/80064451（全局池化） https://blog.csdn.net/williamyi96/article/details/77530995（Global Average Pooling对全连接层的可替代性分析） https://blog.c...
6. 全连接层与全局平均池化1
08-03
1.全连接层的作用 2.全局平均池化的理解 1.全连接层的作用 2.全局平均池化的理解
基于多池化融合与背景消除网络的跨数据集行人再识别方法
01-13
现有跨数据集行人再识别方法一般致力于减小2个数据集之间的数据分布差异，忽略了背景信息对识别性能的影响。针对上述问题，提出了一种基于多池化融合与背景消除网络的跨数据集行人再识别方法。为了兼顾全局特征和局部特征，同时实现特征的多细粒度表示，构建了多池化融合网络。为了使监督网络能提取有用的行人前景特征，构建了特征级有监督背景消除网络。采用结合行人分类损失及特征激活损失的多任务学习损失函数，在3个公开行人再识别数据集上对方法进行评估，当MSMT17作为训练集时，Market-1501上的跨数据集识别性能mAP为35.53%，相比ResNet50网络提升了9.24%；DukeMTMC-reID上的跨数据集识别性能mAP为41.45%，相比于ResNet50网络提升了10.72%。与现有方法相比，所提方法具有更优的跨数据集行人再识别性能。
图像处理_python平均池化_python_
10-03
利用python代码实现了平均池化的功能，能对图像进行较好的池化
结合全局与局部池化的深度哈希人脸识别算法.pdf
09-23
结合全局与局部池化的深度哈希人脸识别算法.pdf
torch|全局池化层详解
爱CV
06-01 2749
但是GAP是另外方式避免全连接层的处理，直接通过全局池化+softmax进行分类，它的优点是更加符合卷积层最后的处理，另外一个优点是GAP不会产生额外的参数，相比全连接层的处理方式，降低整个计算量，此外全局池化还部分保留来输入图像的空间结构信息，所以全局池化在有些时候会是一个特别有用的选择。全局均值池化跟全局最大池化的输入一般为NxCxHxW，输出为NxCx1x1但是实际上有时候我们还会有另外一个需求，就是全局深度池化，它的输出是Nx1xHxW。可以看到全局池化会根据需要产生神经元，神经元个数可控，可调。
池化的几种方法 学习笔记 (附代码)
最新发布
PLANTTHESON的博客
10-10 4367
池化的几种方法 学习笔记 (附代码)
Caffe入门：global pooling (全局池化)
那年聪聪
10-19 7347
global pooling (全局池化)
基于混合式注意力机制的语音识别研究
04-30
为了解决语音识别中基于卷积位置信息的混合式注意力机制无法提取长期有效位置信息的问题，提出了一种捕捉长期有效位置信息的新型混合式注意力机制。首先，对当前时刻生成的注意力得分作卷积来提取多通道特征图，并通过全局平均池化来得到恒定维度的特征向量；接着，引入长短期记忆网络（long short-term memo-ry，LSTM）单元作为外部记忆模块，并以生成的特征向量作为输入，生成下一时刻的位置信息向量；最后，结合经典的LAS（listen，attend and spell）模型来验证提出方案的有效性。实验结果表明，该方案能充分考虑过去多个时刻的注意力得分。相对于基于卷积位置信息的LAS模型，该方案在纯净和含噪语音数据集上取得的标签错误率分别减少了1.8%和2.21%。
不同池化层的使用场景
qq_45152711的博客
05-24 664
与其他池化层相比，全局池化层不需要额外的超参数，更加方便实用。与最大池化层相比，平均池化层更加平滑，可以在一定程度上减少噪声。池化层是卷积神经网络中的重要组成部分，其主要作用是通过对输入数据进行降维操作来减少计算量，并且可以在一定程度上避免过拟合。最大池化层（Max Pooling）：最大池化层通常被用于图像处理任务中。综上所述，不同的池化层在卷积神经网络中有不同的使用场景，可以根据具体任务来选择合适的池化层。最大池化层和平均池化层适用于图像处理任务，全局池化层适用于分类问题。
计算机视觉面试考点（10）池化
嘻嘻哈哈yjy的博客
04-22 2174
计算机视觉工程师在面试过程中主要考察三个内容：图像处理、机器学习、深度学习。然而，各类资料纷繁复杂，或是简单的知识点罗列，或是有着详细数学推导令人望而生畏的大部头。为了督促自己学习，也为了方便后人，决心将常考必会的知识点以通俗易懂的方式设立专栏进行讲解，努力做到长期更新。此专栏不求甚解，只追求应付一般面试。希望该专栏羽翼渐丰之日，可以为大家免去寻找资料的劳累。每篇介绍一个知识点，没有先后顺序。想了...
【计算机视觉】——全局平均池化代替全连接层，全连接层的作用？
m0_45388819的博客
10-10 6095
【计算机视觉】——全局平均池化代替全连接层，全连接层的作用？ 一、参考链接如下： 全连接层的作用是什么？ 为什么使用全局平均池化层？ 二、需要解决的问题如下： 1.全连接层的作用是什么？ 全连接层的作用主要包含以下三点： 全连接层（fully connected layers，FC）在整个卷积神经网络中起到“分类器”的作用。如果说卷积层、池化层和激活函数层等操作是将原始数据映射到隐层特征空间的话，全连接层则起到将学到的“分布式特征表示”映射到样本标记空间的作用。在实际使用中，全连接层可由卷积操作实现：
全局平均池化能否完美代替全连接？
星辰大海
04-06 3852
全局平均池化能否完美代替全连接？ 参考链接：https://www.cnblogs.com/hutao722/p/10008581.html 一.什么是全局平均池化？    全局平均池化（GAP）通过池化操作把多维矩阵转化为特征向量，以顶替全连接（FC）。 优点：    ① 减少了FC中的大量参数，使得模型更加健壮，抗过拟合，当然，可能也会欠拟合。    ② GAP在特征图与最终的分类间转换更加自然。    GAP工作原理如下图所示：    假设卷积层的最后输出是h × w × d 的三维特征图，具体大小为
PyTorch入门（五）常用的池化操作
L18273121172的博客
04-05 3614
常用的池化操作 深度学习中常规的池化层的池化操作有最大池化（Max Pooling）和平均池化（Average Pooling），同时有以下常用的池化层：金字塔池化、全局平均池化、ROI池化… 金字塔池化 金字塔池化有空间金字塔池化（spatial pyramid pooling, SPP）、空洞空间金子塔池化（atrous pyramid pooling, ASPP）和密集空洞空间金字塔池化...
神经网络——最大池化
m0_51311105的博客
02-01 1万+
最大池化的目的在于保留原特征的同时减少神经网络训练的参数，使得训练时间减少。相当于1080p的视频变为了720p 最大池化介绍 池化层最常用的是下采样，其中参数： kernel_size：设置取最大值的窗口，类似于卷积层的卷积核，如果传入参数是一个int型，则生成一个正方形，边长与参数相同；若是两个int型的元组，则生成长方形。 stride：步径，与卷积层不同，默认值是kernel_size的大小。 padding：和卷积层一样，用法类似于kernel_size。 dila...
mean-pooling（平均池化），max-pooling（最大池化）、Stochastic-pooling（随机池化）和global average pooling（全局平均池化）的区别简介
修行之路
05-26 1万+
mean-pooling（平均池化），max-pooling（最大池化）、Stochastic-pooling（随机池化）和global average pooling（全局平均池化）的区别简介
全局平均池化代码
06-02
以下是一个示例代码，用于执行 2D 全局平均池化： ```python import torch.nn as nn # 输入特征图的大小为 (batch_size, channels, height, width) input_tensor = ... # 定义 2D 全局平均池化层 global_avg_pool = nn.AdaptiveAvgPool2d(output_size=(1, 1)) # 对输入特征图执行全局平均池化 output_tensor = global_avg_pool(input_tensor) # 输出特征图的大小为 (batch_size, channels, 1, 1) print(output_tensor.size()) ``` 注意，上面的代码中，使用了 `nn.AdaptiveAvgPool2d` 层来执行全局平均池化。这个层可以自动计算输入特征图的大小，并输出指定大小的特征图。在本例中，我们将输出大小设置为 `(1, 1)`，以便执行全局平均池化。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值