【深度学习】global pooling (全局池化)

已于 2023-01-25 16:05:15 修改
阅读量5.5w 收藏 86
点赞数 39
分类专栏： 深度学习 文章标签： 深度学习 人工智能 计算机视觉
于 2018-04-24 14:53:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jningwei/article/details/80064451
版权
本文解释了全局池化(global pooling)的概念及其在深度学习中的应用。全局池化是一种特殊的池化方法，其窗口大小与特征图大小相同，可以将任意大小的特征图转换为固定大小的输出，通常用于简化计算并减少参数数量。文中还介绍了全局池化的具体实现方法，包括全局平均池化和全局最大池化。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

今天看SPPNet论文时，看到“global pooling”一词，不是很明白是啥概念。上网查了一下定义，在StackOverflow
上找到了答案：
这里写图片描述

具体回答如下：
这里写图片描述

说白了，“global pooling”就是pooling的 滑窗size 和整张feature map的size一样大。这样，每个 W × H × C W\times H\times C W×H×C 的feature map输入就会被转化为 1 × 1 × C 1\times 1\times C 1×1×C 输出。因此，其实也 等同于每个位置权重都为 1 / ( W × H ) 1/(W\times H) 1/(W×H) 的 FC层操作 。

等同于输入一个tensor，输出一根vector。

“global pooling”在滑窗内的具体pooling方法可以是任意的，所以就会被细分为“global avg pooling”、“global max pooling”等。

由于传统的pooling太过粗暴，操作复杂，目前业界已经逐渐放弃了对pooling的使用。替代方案 如下：

  • 采用 Global Pooling 以简化计算；

  • 增大conv的 stride 以免去附加的pooling操作。

tf实现

由于输入tensor的shape为[n, h, w, c]，那么直接对第1、2维（h、w）用tf.reduce_mean求均值即可：

net = tf.reduce_mean(net, [1, 2], name='global_pool', keep_dims=True)

[1] What does global pooling do?
[2] Global average Pooling
[3] How do I do global average pooling in TensorFlow?
[4] tf.reduce_mean实现global average pooling（全局均值池化）

【神经网络结构的组成】一篇弄懂池化层Pooling
十二月的猫
10-09 2741
池化Pooling是卷积神经网络中常见的一种操作，其本质是降维。在卷积层之后，通过池化来降低卷积层输出的特征维度，减少网络参数和计算成本的同时，降低过拟合现象。Pooling层是模仿人的视觉系统对数据进行降维，人眼在观察复杂场景时，通常会通过关注最显著的特征来处理视觉信息，而Pooling层的功能也正是抽取图像中最重要的信息并进行有效降维。池化的本质是降维，池化的原则是提取最重要的信息。基于如何提取最重要的信息有许多不同的观点，因此就产生了许多不同池化层。
TensofFlow学习记录：全局均值池化
weixin_41137655的博客
06-29 5230
全局均值池化就是在平均池化层中使用同等大小的过滤器将其特征保存下来。这种结构用来代替深层网络结构最后的全连接输出层。这个方法也是《Network In Network》论文中所论述的。 以下为《Network In Network》论文中关于全局均值池化的翻译，原文请点击这里 传统卷积神经网络在网络的较低层执行卷积。对于分类任务，最后一个卷积层得到的特征图被向量化然后送入全连接层，接一个softm...
深度学习之全局池化（“global pooling”）、全局平局池化（“global avg pooling”）、全局最大池化（“global max pooling）
棉花糖的博客
03-03 1万+
参考：https://blog.csdn.net/JNingWei/article/details/80064451（全局池化） https://blog.csdn.net/williamyi96/article/details/77530995（Global Average Pooling对全连接层的可替代性分析） https://blog.c...
graph-level：torch_geometric.nn.global_mean_pool
yangning7777777的博客
12-30 2202
global_mean_pool(x, batch, size:Union[int, NoneType]=None) Returns batch-wise graph-level-outputs by averaging node features across the node dimension, so that for a single graph 通过对节点维度上的节点特征求平均值，返回批处理图形级别的输出，从而形成一个图形   Gi\mathcal{G}_iGi​的输出由
全局平均池化（Global Average Pooling，简称GAP）
最新发布
weixin_46211609的博客
03-27 946
全局平均池化（Global Average Pooling，简称GAP）是一种常用于卷积神经网络（CNN）中的池化方法，特别是在图像分类等任务中。它的作用是通过对每个特征图（feature map）进行平均操作来减少数据的维度。：通常是一个经过卷积层处理的特征图，大小为 ( H × W × C )（其中 ( H ) 和 ( W ) 分别是特征图的高度和宽度，( C ) 是通道数）。
全局池化（Global Pooling）
CV在读
11-08 2265
在经过全局池化后，特征图形状会从[b,c,h,w]变为[b,c,1,1]
Caffe入门：global pooling (全局池化)
那年聪聪
10-19 7597
global pooling (全局池化)
全局池化（global pooling）
梦家の博客
04-09 3366
原文博客：https://blog.csdn.net/JNingWei/article/details/80064451 global pooling是pooling的滑窗size和整张feature map的size一样大。这样，每个 W×H×C 的feature map输入就会被转化为 1×1×C 输出。因此，其实也等同于每个位置权重都为 1/(W×H) 的FC层操作。global pooli...
global_pool（全局池化）
haiyanyanya的博客
04-07 2143
“global pooling”就是pooling的 滑窗size 和整张feature map的size一样大。这样，每个 W × H × C 的feature map输入就会被转化为 1 × 1 × C 1\times 1\times C1×1×C 输出。 参考：深度学习: global pooling (全局池化)_JNingWei的博客-CSDN博客_全局池化 ...
深度学习的全局平均池化（GAP）技术
02-20 2204
在深度学习，特别是卷积神经网络（Convolutional Neural Networks, CNNs）的发展过程中，全局平均池化（Global Average Pooling, GAP）技术已成为一种重要的结构组件，尤其是在图像识别和分类任务中。全局平均池化（GAP）是一种池化（Pooling）操作，它在卷积神经网络的最后一层卷积层之后被应用，用于将每个特征图（Feature Map）的平均值作为该特征的总体表示。具体来说，对于每一个特征图，GAP计算所有元素的平均值，生成一个单一的标量值。
Global Average Pooling全局平均池化的一点理解
热门推荐
qq_23304241的博客
05-12 5万+
  Traditional Pooling Methods 要想真正的理解Global Average Pooling，首先要了解深度网络中常见的pooling方式，以及全连接层。 众所周知CNN网络中常见结构是：卷积、池化和激活。卷积层是CNN网络的核心，激活函数帮助网络获得非线性特征，而池化的作用则体现在降采样：保留显著特征、降低特征维度，增大kernel的感受野。深度网络越往后面越能捕...
Pytorch实现全局平均池化（Global Average Pooling )
u014772432的博客
02-06 1万+
现在所有的博客上面，大部分并没有这个功能的实现，或者大部分没有使用pytorch去实现全局平均池化这个功能。所以这篇博客就是用pytorch来实现全局平均池化这个功能。 首先全局平均池化的目的是提取每一张特征图的平均值。 实现全局平均池化大部分用的是keras的库。先看代码。 import tensorflow as tf import torch a=torch.arange(0,24).view(2, 3, 2,2) a=a.float() a=a.numpy() print("This is
【深度学习】Global Pooling，Depth-wise Convolution， Concatenate
weixin_43728604的博客
11-17 1833
最近在读BiSeNet的两篇论文，遇到了三个以前没有接触过的操作，本文来就这三个操作进行简单的讲解以及Pytorch代码实现的思路。 1.Global Pooling Global Pooling，中文是全局池化，其实是一种比一般池化还要简单的池化操作。在一般的池化中，我们需要用一个类似卷积核一样的东西，来规定步长从而进行取最大值或者平均值的操作，也就是我们常说的最大池化或者平均池化，这种操作通常会改变特征图的尺寸，而改变后的尺寸计算与卷积的计算完全一致。而Global Pooling就十分简单了，它直接就
全局池化层
weixin_43795765的博客
10-02 2291
全局池化层：global average pooling 作用：替代全连接层，减少参数量，主要是用来解决全连接的问题，其主要是是将最后一层的特征图进行整张图的一个均值池化，形成一个特征点，将这些特征点组成最后的特征向量，进行softmax中进行计算。 ...
全局池化–Pytorch
weixin_45074568的博客
06-01 4890
全局池化
Global Average Pooling 对全连接层的可替代性
火星辉
11-13 653
reference：https://blog.csdn.net/williamyi96/article/details/77530995 Golbal Average Pooling 第一次出现在论文Network in Network中，后来又很多工作延续使用了GAP，实验证明：Global Average Pooling确实可以提高CNN效果。 Traditional Pooling Me...
torch|全局池化层详解
爱CV
06-01 3267
但是GAP是另外方式避免全连接层的处理，直接通过全局池化+softmax进行分类，它的优点是更加符合卷积层最后的处理，另外一个优点是GAP不会产生额外的参数，相比全连接层的处理方式，降低整个计算量，此外全局池化还部分保留来输入图像的空间结构信息，所以全局池化在有些时候会是一个特别有用的选择。全局均值池化跟全局最大池化的输入一般为NxCxHxW，输出为NxCx1x1但是实际上有时候我们还会有另外一个需求，就是全局深度池化，它的输出是Nx1xHxW。可以看到全局池化会根据需要产生神经元，神经元个数可控，可调。
全局池化
03-24
<think>嗯，用户想了解全局池化、全局平均池化和全局最大池化的概念以及它们在深度学习中的实现方法。首先，我需要回顾一下这些术语的定义和区别。根据引用[1]和[2]，全局池化与普通池化的主要区别在于操作范围：普通池化处理局部区域，而全局池化处理整个特征图的每个通道。全局平均池化和全局最大池化是全局池化的两种具体形式，分别对每个通道的所有元素取平均值或最大值。 接下来，我需要解释它们的作用和优势。引用[3]、[4]和[5]提到，全局池化特别是全局平均池化（GAP）在减少参数量、防止过拟合、保留空间信息以及提升模型解释性方面有显著优势。例如，GAP替代全连接层可以减少大量参数，这在图像分类任务中非常有用。 然后，关于实现方法，可能需要给出具体的代码示例，比如在Keras或PyTorch中如何实现全局平均池化。例如，Keras中的GlobalAveragePooling2D层，PyTorch中的自适应池化层。此外，用户可能想知道手动实现的逻辑，比如对每个通道进行平均或最大值的计算。 用户可能还关心这些池化方法的应用场景，比如在图像分类中使用GAP替代全连接层，或者在目标检测中利用全局最大池化来捕获显著特征。需要结合引用中的信息，说明不同池化方法的适用情况。 另外，用户的问题可能涉及到为什么选择全局池化而不是普通池化，这时候需要强调全局池化的全局信息保留和参数减少的优势。同时，要指出全局池化没有可训练参数，这与普通池化不同。 最后，生成的相关问题需要覆盖概念、实现、区别、应用场景和优势，确保用户能全面理解。要检查引用是否正确，比如引用[5]详细比较了GAP和全连接的优缺点，这点在回答中需要准确引用。</think>### 全局池化的概念与实现方法 #### 1. **全局池化的定义与分类** 全局池化（Global Pooling）是深度学习中用于压缩特征图空间维度的一种操作，**对每个通道的所有元素进行聚合计算**，生成通道维度的特征向量。主要分为两类： - **全局平均池化（Global Average Pooling, GAP）**：对每个通道的所有元素取平均值，生成$C$维向量（$C$为通道数）[^1][^3]。 - **全局最大池化（Global Max Pooling, GMP）**：对每个通道的所有元素取最大值，同样生成$C$维向量。 与普通池化（如$2 \times 2$最大池化）不同，全局池化的“滑动窗口”覆盖整个特征图，**直接消除空间维度**（如将$H \times W \times C$的特征图压缩为$1 \times 1 \times C$）[^2]。 --- #### 2. **全局池化的作用与优势** - **减少参数量**：替代全连接层（FC），例如将$H \times W \times C$的特征图直接压缩为$C$维向量，避免全连接层的高参数量[^5]。 - **防止过拟合**：无需要学习的参数，降低模型复杂度。 - **保留全局信息**：聚合整个特征图的信息，更适合图像分类任务[^4]。 - **输入尺寸灵活性**：输出维度与输入图像尺寸无关，支持可变尺寸输入。 --- #### 3. **实现方法** ##### (1) **PyTorch实现** ```python import torch.nn as nn # 全局平均池化 gap = nn.AdaptiveAvgPool2d((1, 1)) # 输出尺寸为1x1 # 全局最大池化 gmp = nn.AdaptiveMaxPool2d((1, 1)) ``` ##### (2) **TensorFlow/Keras实现** ```python from tensorflow.keras.layers import GlobalAveragePooling2D, GlobalMaxPooling2D # 全局平均池化 gap_layer = GlobalAveragePooling2D() # 全局最大池化 gmp_layer = GlobalMaxPooling2D() ``` ##### (3) **手动逻辑实现（以GAP为例）** ```python import numpy as np def global_average_pooling(feature_map): # feature_map形状: (C, H, W) return np.mean(feature_map, axis=(1, 2)) # 对每个通道的H和W维度取平均 ``` --- #### 4. **典型应用场景** 1. **图像分类**：用GAP替代全连接层（如ResNet、MobileNet），直接输出类别概率[^3]。 $$ \text{输出} = \text{softmax}(W \cdot \text{GAP}(X) + b) $$ 2. **目标检测**：GMP用于提取显著特征（如纹理、边缘）。 3. **轻量化网络**：通过减少参数降低计算量，适合移动端部署。 --- #### 5. **与普通池化的对比** | 特性 | 全局池化 | 普通池化（如MaxPool2D） | |---------------------|--------------------------|------------------------| | 操作范围 | 整个特征图的每个通道 | 滑动窗口的局部区域 | | 输出维度 | $1 \times 1 \times C$ | 缩小后的空间维度 | | 是否含可训练参数 | 无 | 无 | | 参数量影响 | 消除空间维度参数 | 保留空间维度参数 | ---
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值