pytorch2ONNX时，AdaptiveAvgPool2d的相关问题

已于 2024-05-10 17:12:21 修改
阅读量262 收藏 4
点赞数 11
文章标签： 深度学习 人工智能 神经网络
于 2024-05-10 14:21:25 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Supremelv/article/details/138663993
版权

1、torchvision.models.vgg11_bn

from torchsummary import summary
import torch
from torchvision import models


device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = models.vgg11_bn(num_classes=2).to(device)

# 打印模型结构
backbone1 = summary(model, (3, 128, 128))
backbone2 = summary(model, (3, 224, 224))
  • 当图片输入尺寸为：（3, 224, 224），模型的输出结构如下：
----------------------------------------------------------------
        Layer (type)               Output Shape         Param #
================================================================
            Conv2d-1         [-1, 64, 224, 224]           1,792
       BatchNorm2d-2         [-1, 64, 224, 224]             128
              ReLU-3         [-1, 64, 224, 224]               0
         MaxPool2d-4         [-1, 64, 112, 112]               0
            Conv2d-5        [-1, 128, 112, 112]          73,856
       BatchNorm2d-6        [-1, 128, 112, 112]             256
              ReLU-7        [-1, 128, 112, 112]               0
         MaxPool2d-8          [-1, 128, 56, 56]               0
            Conv2d-9          [-1, 256, 56, 56]         295,168
      BatchNorm2d-10          [-1, 256, 56, 56]             512
             ReLU-11          [-1, 256, 56, 56]               0
           Conv2d-12          [-1, 256, 56, 56]         590,080
      BatchNorm2d-13          [-1, 256, 56, 56]             512
             ReLU-14          [-1, 256, 56, 56]               0
        MaxPool2d-15          [-1, 256, 28, 28]               0
           Conv2d-16          [-1, 512, 28, 28]       1,180,160
      BatchNorm2d-17          [-1, 512, 28, 28]           1,024
             ReLU-18          [-1, 512, 28, 28]               0
           Conv2d-19          [-1, 512, 28, 28]       2,359,808
      BatchNorm2d-20          [-1, 512, 28, 28]           1,024
             ReLU-21          [-1, 512, 28, 28]               0
        MaxPool2d-22          [-1, 512, 14, 14]               0
           Conv2d-23          [-1, 512, 14, 14]       2,359,808
      BatchNorm2d-24          [-1, 512, 14, 14]           1,024
             ReLU-25          [-1, 512, 14, 14]               0
           Conv2d-26          [-1, 512, 14, 14]       2,359,808
      BatchNorm2d-27          [-1, 512, 14, 14]           1,024
             ReLU-28          [-1, 512, 14, 14]               0
        MaxPool2d-29            [-1, 512, 7, 7]               0
AdaptiveAvgPool2d-30            [-1, 512, 7, 7]               0
           Linear-31                 [-1, 4096]     102,764,544
             ReLU-32                 [-1, 4096]               0
          Dropout-33                 [-1, 4096]               0
           Linear-34                 [-1, 4096]      16,781,312
             ReLU-35                 [-1, 4096]               0
          Dropout-36                 [-1, 4096]               0
           Linear-37                    [-1, 2]           8,194
================================================================
Total params: 128,780,034
Trainable params: 128,780,034
Non-trainable params: 0
----------------------------------------------------------------
Input size (MB): 0.57
Forward/backward pass size (MB): 182.02
Params size (MB): 491.26
Estimated Total Size (MB): 673.85
----------------------------------------------------------------
  • 当图片输入尺寸为：（3, 128, 128），模型的输出结构如下：
----------------------------------------------------------------
        Layer (type)               Output Shape         Param #
================================================================
            Conv2d-1         [-1, 64, 128, 128]           1,792
       BatchNorm2d-2         [-1, 64, 128, 128]             128
              ReLU-3         [-1, 64, 128, 128]               0
         MaxPool2d-4           [-1, 64, 64, 64]               0
            Conv2d-5          [-1, 128, 64, 64]          73,856
       BatchNorm2d-6          [-1, 128, 64, 64]             256
              ReLU-7          [-1, 128, 64, 64]               0
         MaxPool2d-8          [-1, 128, 32, 32]               0
            Conv2d-9          [-1, 256, 32, 32]         295,168
      BatchNorm2d-10          [-1, 256, 32, 32]             512
             ReLU-11          [-1, 256, 32, 32]               0
           Conv2d-12          [-1, 256, 32, 32]         590,080
      BatchNorm2d-13          [-1, 256, 32, 32]             512
             ReLU-14          [-1, 256, 32, 32]               0
        MaxPool2d-15          [-1, 256, 16, 16]               0
           Conv2d-16          [-1, 512, 16, 16]       1,180,160
      BatchNorm2d-17          [-1, 512, 16, 16]           1,024
             ReLU-18          [-1, 512, 16, 16]               0
           Conv2d-19          [-1, 512, 16, 16]       2,359,808
      BatchNorm2d-20          [-1, 512, 16, 16]           1,024
             ReLU-21          [-1, 512, 16, 16]               0
        MaxPool2d-22            [-1, 512, 8, 8]               0
           Conv2d-23            [-1, 512, 8, 8]       2,359,808
      BatchNorm2d-24            [-1, 512, 8, 8]           1,024
             ReLU-25            [-1, 512, 8, 8]               0
           Conv2d-26            [-1, 512, 8, 8]       2,359,808
      BatchNorm2d-27            [-1, 512, 8, 8]           1,024
             ReLU-28            [-1, 512, 8, 8]               0
        MaxPool2d-29            [-1, 512, 4, 4]               0
AdaptiveAvgPool2d-30            [-1, 512, 7, 7]               0
           Linear-31                 [-1, 4096]     102,764,544
             ReLU-32                 [-1, 4096]               0
          Dropout-33                 [-1, 4096]               0
           Linear-34                 [-1, 4096]      16,781,312
             ReLU-35                 [-1, 4096]               0
          Dropout- ==**当图片输入尺寸为：（3, 128, 128），模型的输出结构如下：**==
-36                 [-1, 4096]               0
           Linear-37                    [-1, 2]           8,194
================================================================
Total params: 128,780,034
Trainable params: 128,780,034
Non-trainable params: 0
----------------------------------------------------------------
Input size (MB): 0.19
Forward/backward pass size (MB): 59.69
Params size (MB): 491.26
Estimated Total Size (MB): 551.14
----------------------------------------------------------------

2、对比发现

  • 两种尺寸图片都可以正常训练，224是torch官方使用的尺寸，训练imagenet训练，并且提供了训练权重。当模型属输入尺寸为128时，仍然可以使用预训练权重，但是可以看到MaxPool2d到AdaptiveAvgPool2d时，输出尺寸发生了变化，这是因为AdaptiveAvgPool2d可以动态的调整输入尺寸的大小和stride。可以更好的适应不同的输入出尺寸。
  • 在训练模型时，这些层在前向传播过程中可以产生输出，但是在反向传播过程中并不影响梯度的计算。因此，尽管在导出到ONNX格式时可能会遇到一些限制或错误，但模型仍然可以继续通过梯度下降算法进行训练。

3、结论

  • 在ONNX导出时，当AdaptiveAvgPool2d的输入尺寸和输出尺寸不对应时，就会提示错误：
raise errors.SymbolicValueError(
torch.onnx.errors.SymbolicValueError: Unsupported: ONNX export of operator adaptive_avg_pool2d, output size that are not factor of input size. Please feel free to request support or submit a pull request on PyTorch GitHub: https://github.com/pytorch/pytorch/issues  [Caused by the value '100 defined in (%100 : Long(2, strides=[1], device=cpu) = onnx::Constant[value= 7  7 [ CPULongType{2} ]]()
)' (type 'Tensor') in the TorchScript graph. The containing node has kind 'onnx::Constant'.]
  • 所以需要修改AdaptiveAvgPool2d，以正确的导出模型
  • 在导出onnx的过程中，很多动态层都不支持，需要改为固定输出
  • 在 PyTorch 的模型中，通常在使用 torchsummary 的 summary 函数时，如果没有指定 batch size，它会默认使用一个 batch size 为 2 来生成模型的 summary。这是因为在实际训练和推理过程中，通常会使用 mini-batch 处理数据，而选择 batch size 为 2 是一种常见的默认设置。

因此，当你调用 summary(model, (3, 128, 128)) 时，torchsummary 库会假定 batch size 为 2，然后将输入尺寸 (3, 128, 128) 传递给模型，以便计算模型的结构和参数数量。

如果你希望使用不同的 batch size，可以在调用 summary 函数时显式指定，例如：

backbone1 = summary(model, input_size=(3, 128, 128), batch_size=4)

通过提供 batch_size 参数，你可以自定义用于生成 summary 的 batch size。这样可以更好地了解模型在不同 batch size 下的行为和参数量。

4、模型修改

from torchsummary import summary
import torch
from torchvision import models
from torch import nn


device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
model = models.vgg11_bn(num_classes=2)
model.avgpool = nn.AdaptiveAvgPool2d((4, 4))
model.classifier = nn.Sequential(
            nn.Linear(512 * 4 * 4, 4096),
            nn.ReLU(True),
            nn.Dropout(p=0.5),
            nn.Linear(4096, 4096),
            nn.ReLU(True),
            nn.Dropout(p=0.5),
            nn.Linear(4096, 2),
        )
model.to(device)   # 模型修改之后，再搞到GPU上，不然报错

# 打印模型结构
backbone1 = summary(model, (3, 128, 128))
backbone2 = summary(model, (3, 224, 224))
  • 当图片输入尺寸为：（3, 224, 224），模型的输出结构如下：
----------------------------------------------------------------
        Layer (type)               Output Shape         Param #
================================================================
            Conv2d-1         [-1, 64, 224, 224]           1,792
       BatchNorm2d-2         [-1, 64, 224, 224]             128
              ReLU-3         [-1, 64, 224, 224]               0
         MaxPool2d-4         [-1, 64, 112, 112]               0
            Conv2d-5        [-1, 128, 112, 112]          73,856
       BatchNorm2d-6        [-1, 128, 112, 112]             256
              ReLU-7        [-1, 128, 112, 112]               0
         MaxPool2d-8          [-1, 128, 56, 56]               0
            Conv2d-9          [-1, 256, 56, 56]         295,168
      BatchNorm2d-10          [-1, 256, 56, 56]             512
             ReLU-11          [-1, 256, 56, 56]               0
           Conv2d-12          [-1, 256, 56, 56]         590,080
      BatchNorm2d-13          [-1, 256, 56, 56]             512
             ReLU-14          [-1, 256, 56, 56]               0
        MaxPool2d-15          [-1, 256, 28, 28]               0
           Conv2d-16          [-1, 512, 28, 28]       1,180,160
      BatchNorm2d-17          [-1, 512, 28, 28]           1,024
             ReLU-18          [-1, 512, 28, 28]               0
           Conv2d-19          [-1, 512, 28, 28]       2,359,808
      BatchNorm2d-20          [-1, 512, 28, 28]           1,024
             ReLU-21          [-1, 512, 28, 28]               0
        MaxPool2d-22          [-1, 512, 14, 14]               0
           Conv2d-23          [-1, 512, 14, 14]       2,359,808
      BatchNorm2d-24          [-1, 512, 14, 14]           1,024
             ReLU-25          [-1, 512, 14, 14]               0
           Conv2d-26          [-1, 512, 14, 14]       2,359,808
      BatchNorm2d-27          [-1, 512, 14, 14]           1,024
             ReLU-28          [-1, 512, 14, 14]               0
        MaxPool2d-29            [-1, 512, 7, 7]               0
AdaptiveAvgPool2d-30            [-1, 512, 4, 4]               0
           Linear-31                 [-1, 4096]      33,558,528
             ReLU-32                 [-1, 4096]               0
          Dropout-33                 [-1, 4096]               0
           Linear-34                 [-1, 4096]      16,781,312
             ReLU-35                 [-1, 4096]               0
          Dropout-36                 [-1, 4096]               0
           Linear-37                    [-1, 2]           8,194
================================================================
Total params: 59,574,018
Trainable params: 59,574,018
Non-trainable params: 0
----------------------------------------------------------------
Input size (MB): 0.57
Forward/backward pass size (MB): 181.89
Params size (MB): 227.26
Estimated Total Size (MB): 409.73
----------------------------------------------------------------
  • 当图片输入尺寸为：（3, 128, 128），模型的输出结构如下：
----------------------------------------------------------------
        Layer (type)               Output Shape         Param #
================================================================
            Conv2d-1         [-1, 64, 128, 128]           1,792
       BatchNorm2d-2         [-1, 64, 128, 128]             128
              ReLU-3         [-1, 64, 128, 128]               0
         MaxPool2d-4           [-1, 64, 64, 64]               0
            Conv2d-5          [-1, 128, 64, 64]          73,856
       BatchNorm2d-6          [-1, 128, 64, 64]             256
              ReLU-7          [-1, 128, 64, 64]               0
         MaxPool2d-8          [-1, 128, 32, 32]               0
            Conv2d-9          [-1, 256, 32, 32]         295,168
      BatchNorm2d-10          [-1, 256, 32, 32]             512
             ReLU-11          [-1, 256, 32, 32]               0
           Conv2d-12          [-1, 256, 32, 32]         590,080
      BatchNorm2d-13          [-1, 256, 32, 32]             512
             ReLU-14          [-1, 256, 32, 32]               0
        MaxPool2d-15          [-1, 256, 16, 16]               0
           Conv2d-16          [-1, 512, 16, 16]       1,180,160
      BatchNorm2d-17          [-1, 512, 16, 16]           1,024
             ReLU-18          [-1, 512, 16, 16]               0
           Conv2d-19          [-1, 512, 16, 16]       2,359,808
      BatchNorm2d-20          [-1, 512, 16, 16]           1,024
             ReLU-21          [-1, 512, 16, 16]               0
        MaxPool2d-22            [-1, 512, 8, 8]               0
           Conv2d-23            [-1, 512, 8, 8]       2,359,808
      BatchNorm2d-24            [-1, 512, 8, 8]           1,024
             ReLU-25            [-1, 512, 8, 8]               0
           Conv2d-26            [-1, 512, 8, 8]       2,359,808
      BatchNorm2d-27            [-1, 512, 8, 8]           1,024
             ReLU-28            [-1, 512, 8, 8]               0
        MaxPool2d-29            [-1, 512, 4, 4]               0
AdaptiveAvgPool2d-30            [-1, 512, 4, 4]               0
           Linear-31                 [-1, 4096]      33,558,528
             ReLU-32                 [-1, 4096]               0
          Dropout-33                 [-1, 4096]               0
           Linear-34                 [-1, 4096]      16,781,312
             ReLU-35                 [-1, 4096]               0
          Dropout-36                 [-1, 4096]               0
           Linear-37                    [-1, 2]           8,194
================================================================
Total params: 59,574,018
Trainable params: 59,574,018
Non-trainable params: 0
----------------------------------------------------------------
Input size (MB): 0.19
Forward/backward pass size (MB): 59.56
Params size (MB): 227.26
Estimated Total Size (MB): 287.01
----------------------------------------------------------------
SupremeNO.1
关注
  • 11
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
pytorch torch.nn.AdaptiveAvgPool2d()自适应平均池化函数详解
12-23
如题：只需要给定输出特征图的大小就好，其中通道数前后不发生变化。具体如下： AdaptiveAvgPool2d CLASStorch.nn.AdaptiveAvgPool2d(output_size)[SOURCE] Applies a 2D adaptive average pooling over an input signal composed of several input planes. The output is of size H x W, for any input size. The number of output features is equal to the nu
【深度学习】pytorch pth模型转为onnx模型后出现冗余节点“identity”，onnx模型的冗余节点“identity”
q742971636的博客
06-12 1659
onnx模型的冗余节点“identity”如下图。
实例解读nn.AdaptiveAvgPool2d((1, 1))
子燕若水的博客
05-02 2122
当一个形状为（N, C, H_in, W_in）的输入张量通过这个AdaptiveAvgPool2d层时，它计算每个（H_in, W_in）子区域的平均值并产生一个形状为（N, C, H_out, W_out）=（N, C, 1, 1）的输出张量。在这个例子中，创建了一个输出大小为（1, 1）的AdaptiveAvgPool2d层。当一个形状为(64, 512, 4, 4)的输入张量通过该层时，它计算每个(4, 4)子区域的平均值并产生一个形状为(64 ,512 ,1 ,1)的输出张量。
关于pytorch转onnx经常出现的问题
Mr_health的博客
07-25 1988
关于pytorch转onnx经常出现的问题
Pytorch模型转onnx模型（多输入）
amateur_的博客
01-25 1万+
参考 【1】https://zhuanlan.zhihu.com/p/41255090 理论 【2】https://zhuanlan.zhihu.com/p/272767300 理论 【3】https://zhuanlan.zhihu.com/p/273566106 实战 【4】https://zhuanlan.zhihu.com/p/286298001 实战 【5】https://www.jianshu.com/p/65cfb475584a 实战 【6】https://pytorch.apachecn.o
AdaptiveAvgPool2D 不支持 onnx 导出，自定义一个类代替 AdaptiveAvgPool2D
先说一下，就简单地写点儿氵文，不是博客，只是我的笔记本
06-21 3016
AdaptiveAvgPool2D 不支持 onnx 导出，导出过程会告诉你，onnx不支持那个动态操作巴拉巴拉我用的是 pp_liteseg 导出为 onnx 模型，都一样，paddle和Torch的 Adaptive Pool2D 都是动态的，onnx暂时都不支持，我根据下述公式，将 AdaptiveAvgPool2D 改了，可以用onnx导出了，但是需要指定一下原图的大小，和输出图的大小hstart=floor(i∗Hin/Hout)hend=ceil((i+1)∗Hin/Hout)wstart=f
onnx2tensorRt:tensorRt推断darknet2onnx pytorch2onnx mxnet2onnx
04-12
pytorch1.5 + (yolov5 support pytorch1.4+) tensorRt7 + (tensorRt7 support python3.4-3.7) onnx1.5 + (tensorRt7 support onnx1.5) onnxruntime 1.0 python3.6 + docker-cuda10.2 + ubuntu16.04 or ubuntu...
TensorRT-使用TensorRT部署Pytorch版YOLOv4-通过Pytorch2onnx导出onnx模型转TRT部署
02-27
TensorRT_使用TensorRT部署Pytorch版YOLOv4_通过Pytorch2onnx导出onnx模型转TRT部署_算法部署_算法优化_优质项目实战
pytorch 将onnx模型转换为trt TensorRT模型
03-20
适用于TensorRT8.0版本及以上 使用步骤 1、chmod 添加文件执行权限 2、将onnx路径修改为自己的onnx模型路径 3、运行py问价
PyTorch2ONNX2TensorRT 踩坑日志
热门推荐
麦克斯韦恶魔的博客
12-07 2万+
从“用PyTorch写的网络，通过ONNX，使用TensorRT序列化，最终完成模型加速”的全流程踩坑日志。持续更新。
Pytorch自适应平均池化工作原理（AdaptiveAvgPool2d无法导出ONNX，寻找替换方法）
q852474220的博客
02-06 1511
​自适应平均池化是一种池化方法，可以在不同大小的输入中自适应地对每个位置进行平均池化。与传统的平均池化方法不同，自适应平均池化不需要指定池化核的大小，而是通过输出的大小来决定池化的大小和步幅。自适应平均池化的输出形状可以由用户指定，因此可以用于任何大小的输入。这使得自适应平均池化在处理不同大小的输入时非常有用。根据上述数据相信你已经有了自己的答案，自适应池化不能导出的原因是因为输出特征图比输入大，ONNX没有相应的池化算子，下面链接的方法把paddle换成torch,Layer换成Module可以运行。
pytorch 17 onnx多输入多输出模型在python与C++下用OnnxRuntime部署
a486259的博客
01-13 3723
pytorch模型在转换成onnx模型后可以明显加速，此外模型在进行openvino部署时也需要将pytorch模型转换为onnx格式。为此，以多输入多输出模型为例，记录一下模型转换及python下onnxruntime调用过程。并实现C++下多输入多输出模型的Onnxruntime的调用。 一 、python下模型转onnx与测试 1.1、构建pytorch多输入多输出模型 import torch import torch.nn as nn import torch.nn.functional
《异常检测——从经典算法到深度学习》29 EasyTSAD: 用于时间序列异常检测模型的工业级基准
Smileyan's blog
05-31 1191
EasyTSAD 论文阅读以及实验操作过程
深度学习中的模型架构详解：RNN、LSTM、TextCNN和Transformer
最新发布
Byyyi耀的博客
06-01 1181
深度学习中的模型架构详解：RNN、LSTM、TextCNN和Transformer
用于脑肿瘤分割的跨模态深度特征学习| 文献速递-深度学习肿瘤自动分割
weixin_38594676的博客
05-29 626
然而，与非常普遍的RGB图像数据不同，用于脑肿瘤分割的医学图像数据在数据规模方面相对较少，但在模态属性方面包含了更丰富的信息。所提出的跨模态深度特征学习框架包括两个学习过程：跨模态特征转换（CMFT）过程和跨模态特征融合（CMFF）过程，分别旨在通过在不同模态数据之间转移知识和融合来自不同模态数据的知识来学习丰富的特征表示。其次，由于复杂的数据结构，直接连接多模态数据以形成网络输入，就像以前的工作中所做的那样，既不是充分利用每个模态数据背后知识的最佳选择，也不是融合来自多模态数据知识的有效策略。
LSTM长短时记忆网络：推导与实现（pytorch）
zly_Always_be的博客
05-29 922
LSTM长短时记忆网络：推导与实现（pytorch实现）
深度学习中点云在预处理时的增强策略
weixin_42605076的博客
05-29 432
点云数据增强策略在深度学习中具有重要意义，通过这些增强手段，可以有效提升模型的泛化能力和鲁棒性。在具体应用中，通常会组合多种增强策略，以形成一个丰富且多样化的训练数据集，从而提高模型在实际场景中的表现。
PyTorch训练关键点
u012374012的专栏
05-28 725
image = cv2.imread(self.image_filenames[index], 0) # 以灰色模式读取图像。# 遍历 XML 数据:root[2] 表示 XML 中的第三个元素，即 部分，其中包含了每张图像的标注信息。# 将关键点坐标中心化：简化旋转变换的计算，同时确保关键点的变换和图像变换的对应关系。# 对图像进行旋转：相比于 PIL 的图像旋转计算开销更小。# 将图像从数组转换为 PIL 图像对象。# 对关键点坐标进行裁剪后的调整。# 获取裁剪后的图像形状。
pytorch nn.adaptiveavgpool2d公式
04-30
PyTorch中的nn.adaptiveavgpool2d是一种自适应平均池化函数，用于将输入张量的大小调整为指定输出大小。它采用的池化方式与常规2D平均池化相同，但可以选择使用指定的输出大小，而无需输入形状。 公式如下： ``` ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值