torch.mean()、torch.max() 和 nn.AdaptiveAvgPool2d()、nn.AdaptiveMaxPool2d() 用法小结

已于 2024-05-17 15:47:59 修改
阅读量2.4k 收藏 6
点赞数 2
分类专栏： 各种操作小结 文章标签： PyTorch python AvgPool MaxPool
于 2022-04-19 16:51:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45084253/article/details/124277793
版权

🤵 Author ：Horizon John

✨ 编程技巧篇：各种操作小结

🎇 机器视觉篇：会变魔术 OpenCV

💥 深度学习篇：简单入门 PyTorch

🏆 神经网络篇：经典网络模型

💻 算法篇：再忙也别忘了 LeetCode


文章目录

torch.randn()

首先创建1个 2个通道（3 x 5）大小的张量 ：

x = torch.randn(1, 2, 3, 5)
print(x)

输出结果：

tensor([[[[ 0.9529, -0.3196,  0.3037,  0.0507,  0.3179],
          [-2.0785, -0.8697,  0.2880,  0.4416,  0.7148],
          [-1.7157,  0.6767, -0.5997,  1.1221,  0.2088]],

         [[-1.1475,  0.2046, -0.7609, -1.2099, -0.5255],
          [-0.1989, -0.6862, -0.6264,  0.1123,  0.3257],
          [ 1.5529, -0.6140, -0.0471, -0.6173, -0.9239]]]])

torch.mean()

dim = 0 ：按行求平均值，返回结果为（1，列），通道数不会发生变化
dim = 0 ：按列求平均值，返回结果为（行，1），通道数会发生变化
默认 ：输出所有值的平均值

avg_out = torch.mean(x)
print(avg_out)

avg_out0 = torch.mean(x, dim=0, keepdim=True)
print(avg_out0)

avg_out1 = torch.mean(x, dim=1, keepdim=True)
print(avg_out1)

输出结果：

tensor(-0.1889)

tensor([[[[ 0.9529, -0.3196,  0.3037,  0.0507,  0.3179],
          [-2.0785, -0.8697,  0.2880,  0.4416,  0.7148],
          [-1.7157,  0.6767, -0.5997,  1.1221,  0.2088]],

         [[-1.1475,  0.2046, -0.7609, -1.2099, -0.5255],
          [-0.1989, -0.6862, -0.6264,  0.1123,  0.3257],
          [ 1.5529, -0.6140, -0.0471, -0.6173, -0.9239]]]])
          
tensor([[[[-0.0973, -0.0575, -0.2286, -0.5796, -0.1038],
          [-1.1387, -0.7779, -0.1692,  0.2770,  0.5203],
          [-0.0814,  0.0313, -0.3234,  0.2524, -0.3575]]]])

torch.max()

dim = 0 ：按行求最大值，返回结果为（1，列），通道数不会发生变化
dim = 0 ：按列求最大值，返回结果为（行，1），通道数会发生变化
默认 ：输出所有值的最大值

max_out = torch.max(x)
print(max_out)

max_out0, _ = torch.max(x, dim=0, keepdim=True)
print(max_out0)

max_out1, _ = torch.max(x, dim=1, keepdim=True)
print(max_out1)

输出结果：

tensor(1.5529)

tensor([[[[ 0.9529, -0.3196,  0.3037,  0.0507,  0.3179],
          [-2.0785, -0.8697,  0.2880,  0.4416,  0.7148],
          [-1.7157,  0.6767, -0.5997,  1.1221,  0.2088]],

         [[-1.1475,  0.2046, -0.7609, -1.2099, -0.5255],
          [-0.1989, -0.6862, -0.6264,  0.1123,  0.3257],
          [ 1.5529, -0.6140, -0.0471, -0.6173, -0.9239]]]])
          
tensor([[[[ 0.9529,  0.2046,  0.3037,  0.0507,  0.3179],
          [-0.1989, -0.6862,  0.2880,  0.4416,  0.7148],
          [ 1.5529,  0.6767, -0.0471,  1.1221,  0.2088]]]])

另外：

out = torch.max(x, dim=0, keepdim=True)
print(out)

输出结果：

torch.return_types.max(
values=tensor([[[[ 0.9529, -0.3196,  0.3037,  0.0507,  0.3179],
          [-2.0785, -0.8697,  0.2880,  0.4416,  0.7148],
          [-1.7157,  0.6767, -0.5997,  1.1221,  0.2088]],

         [[-1.1475,  0.2046, -0.7609, -1.2099, -0.5255],
          [-0.1989, -0.6862, -0.6264,  0.1123,  0.3257],
          [ 1.5529, -0.6140, -0.0471, -0.6173, -0.9239]]]]),
indices=tensor([[[[0, 0, 0, 0, 0],
          [0, 0, 0, 0, 0],
          [0, 0, 0, 0, 0]],

         [[0, 0, 0, 0, 0],
          [0, 0, 0, 0, 0],
          [0, 0, 0, 0, 0]]]]))

nn.AdaptiveAvgPool2d()

给定输出 feature map 的大小，输出前后的 通道数不会发生变化 ：

avg_pool0 = nn.AdaptiveAvgPool2d(1)
avg_pool0 = avg_pool0(x)
print(avg_pool0)

avg_pool1 = nn.AdaptiveAvgPool2d((2, 2))
avg_pool1 = avg_pool1(x)
print(avg_pool1)

输出结果：

tensor([[[[-0.0337]],

         [[-0.3442]]]])
         
tensor([[[[-0.2872,  0.3528],
          [-0.7165,  0.3626]],

         [[-0.5359, -0.4475],
          [-0.1033, -0.2961]]]])

nn.AdaptiveMaxPool2d()

给定输出 feature map 的大小，输出前后的 通道数不会发生变化 ：

max_pool0 = nn.AdaptiveMaxPool2d(1)
max_pool0 = max_pool0(x)
print(max_pool0)

max_pool1 = nn.AdaptiveMaxPool2d((2, 2))
max_pool1 = max_pool1(x)
print(max_pool1)

输出结果：

tensor([[[[1.1221]],

         [[1.5529]]]])
tensor([[[[0.9529, 0.7148],
          [0.6767, 1.1221]],

         [[0.2046, 0.3257],
          [1.5529, 0.3257]]]])


Horizon John
关注
  • 2
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
常见的几种池化操作：MaxPool2d/AdaptiveMaxPool2d/AvgPool2d/AdaptiveAvgPool2d...（Pytorch）
NorthSmile的博客
09-01 9148
case3：output_size=（H_out,None）或output_size=（None,W_out），此时指定为None的维度与输入中保持一致，既output_size=（H_out,None）时W_out=W_in；case3：output_size=（H_out,None）或output_size=（None,W_out），此时指定为None的维度与输入中保持一致，既output_size=（H_out,None）时W_out=W_in；因为执行的是最大池化操作，所以在填充时使用负无穷。
【pytorch】torch.nn.AdaptiveMaxPool2d 自适应池化
qq_37791134的博客
08-12 2835
https://pytorch.org/docs/master/generated/torch.nn.AdaptiveMaxPool2d.html#torch.nn.AdaptiveMaxPool2d torch.nn.AdaptiveMaxPool2d output_size– the target output size of the image of the form H x W. Can be a tuple (H, W) or a single H for a square ima..
【Pytorch】torch.max() 函数详解
weixin_44211968的博客
12-07 9878
本文介绍了【Pytorch】中的 torch.max() 函数
解决AdaptiveAvgPool2d部署算子不支持问题
最新发布
HHzdh的博客
05-14 504
解决AdaptiveAvgPool2d部署算子不支持问题
torch.max
weixin_30914981的博客
07-17 1017
torch.max(input)→ Tensor 返回输入tensor中所有元素的最大值 a = torch.randn(1, 3)>>0.4729 -0.2266 -0.2085 torch.max(a)>>0.4729 torch.max(input,dim,keepdim=False,out=None) -> (Tensor,...
pytorch函数AdaptiveMaxPool2d
⛄
07-02 2086
目录自适应最大池化应用常用词向量BertBert的输入Bert的预训练过程Bert的encoderTransformer EncoderBert encoderBert的输出词向量的维度 自适应最大池化 torch.nn.AdaptiveMaxPool2d(output_size, return_indices=False) output_size: 输出信号的尺寸,可以用（H,W）表示HW的输出。 return_indices: 如果设置为True，会返回输出的索引。 处理之后维度不变，后两个维度按
pytorch函数之torch.nn.AdaptiveMaxPool2d()
qq_35091353的博客
05-24 3818
1、函数介绍 class torch.nn.AdaptiveMaxPool2d(output_size, return_indices=False) 1.1 作用 该函数提供了2维的自适应最大池化操作，对于任何大小的输入，可以得到维度为(H,W)的输出，其中，输入特征和输出特征的channel不会变化。 1.2 参数 output_size: 输出特征的尺寸，可以用（H,W）表示得到的输出 return_indices: 如果设置为True，会返回输出的索引。对 nn.MaxUnpool2d有用，默认值
pytorch torch.nn.AdaptiveAvgPool2d()自适应平均池化函数详解
09-18
在PyTorch中，`torch.nn`模块包含了许多用于构建深度学习模型的层和功能，其中`AdaptiveAvgPool2d()`是实现2D自适应平均池化操作的一个关键组件。自适应平均池化（Adaptive Average Pooling）是深度学习网络中用于...
pytorch1.0中torch.nn.Conv2d用法详解
09-18
总的来说，`torch.nn.Conv2d`在PyTorch中扮演着至关重要的角色，它与其他函数如`F.relu`和`F.max_pool2d`结合，构建了深度学习模型的基础架构。理解其工作原理和参数设置对于有效地设计和训练神经网络至关重要。
PyTorch里面的torch.nn.Parameter()详解
09-18
本文将深入探讨`torch.nn.Parameter()`的作用、使用方法以及它在构建神经网络模型时的重要性。 首先，`torch.nn.Parameter()`的主要功能是将一个普通的张量（Tensor）转化为可训练的参数。当一个张量通过`torch.nn....
torch.mean()
01-06
注意：在这里使用的时候转一下类型，否则会报RuntimeError: Can only calculate the mean of floating types. Got Long instead.的错误。 查看了一下x元素类型是torch.int64,根据提示添加一句x=x.float()转为tensor....
torch.max()——数组的最大值
qq_50001789的博客
09-19 1万+
torch.max——数组的最大值torch.max()——数组的最大值形式Ⅰ形式Ⅱ代码案例扩展官方文档 torch.max()——数组的最大值 torch.max()有两种形式 形式Ⅰ torch.max(input) → Tensor 功能：输出数组的最大值 注意： 只有一个输入，只需要输入一个数组 该方式也可以通过a.max()实现，后者是求数组a的最大值 形式Ⅱ torch.max(input, dim, keepdim=False, *, out=None) -> (Tensor, L
【pytorch】nn.AdaptiveMaxPool2d
weixin_37804469的博客
06-09 748
官方文档地址：https://pytorch.org/docs/master/generated/torch.nn.AdaptiveMaxPool2d.html#torch.nn.AdaptiveMaxPool2d torch.nn.AdaptiveMaxPool2doutput_size – the target output size of the image of the form H x W. Can be a tuple (H, W) or a single H for a square imag
torch.mean()函数
zhenguiqin的博客
03-12 1万+
torch.mean(input) 输出input 各个元素的的均值 不指定任何参数就是所有元素的算术平均值 指定参数可以计算每一行或者 每一列的算术平均数 对于1 如： import torch a=torch.randn(3) #随机生成一个一维的矩阵 b=torch.randn(1,3) #随机生成一个二维的矩阵 print(a) print(b) torch.mean(a) 结果 tensor([ 0.1613, 0.7873, -0.3453]) tensor([[ 0.5759,
nn.AdaptiveAvgPool2d与AdaptiveMaxPool2d
人工智能视觉分析算法学习实践和经验分享。
10-13 1954
PyTorch的自适应池化Adaptive Pooling的功用。如果你想直接确定全连接层的维度，可以使用自适应池化，无论前面的卷积池化的维度变成什么，最后的输出维度都是batchsize*channels*n*n
【轻松掌握】PyTorch 的 torch.max()函数
创作高质量博文，分享知识，共同进步！
02-09 4987
torch.max函数详解：基于PyTorch的深入探索
【pytorch】torch.mean()
热门推荐
一白梦人的博客
03-02 1万+
torch.mean()
torch.max() 函数
weixin_42272869的博客
03-09 1939
torch.max() 函数 最近在玩图像目标分类问题，涉及到一个 torch.max() 函数，来记录一下 1、函数说明 output = torch.max(input, dim) 输入： input：是softmax函数输出的一个tensor dim：是max函数索引的维度0/1，0是每列的最大值，1`是每行的最大值 输出： 函数会返回两个tensor，第一个tensor是每行的最大值；第二个tensor是每行最大值的索引。 在多分类任务中我们并不需要知道各类别的预测概率，所以返回值的第一个
用tensorflow的layers.Layer模块改写 class SpatialAttention(nn.Module): def init(self): super(SpatialAttention, self).init() self.conv1 = nn.Conv2d(2, 1, 3, padding = 1, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim = 1, keepdim = True) max_out, _ = torch.max(x, dim = 1, keepdim = True) x = torch.cat([avg_out, max_out], dim = 1) x = self.conv1(x) return self.sigmoid(x)
06-08
以下是使用TensorFlow的layers.Layer模块改写的代码： ```python import tensorflow as tf class SpatialAttention(tf.keras.layers.Layer): def __init__(self): super(SpatialAttention, self).__init__() self.conv1 = tf.keras.layers.Conv2D(1, 3, padding='same', use_bias=False) self.sigmoid = tf.keras.layers.Activation('sigmoid') def call(self, inputs): avg_out = tf.reduce_mean(inputs, axis=1, keepdims=True) max_out = tf.reduce_max(inputs, axis=1, keepdims=True) x = tf.concat([avg_out, max_out], axis=1) x = self.conv1(x) return self.sigmoid(x) ``` 在TensorFlow的layers.Layer模块中，我们使用`__init__()`方法来初始化层的参数，使用`call()`方法来定义层的前向传播逻辑。`Conv2D`和`Activation`分别对应PyTorch中的`nn.Conv2d`和`nn.Sigmoid`。`reduce_mean`和`reduce_max`分别对应PyTorch中的`torch.mean`和`torch.max`。`concat`用于在给定维度上连接不同的张量。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Horizon John

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值