nn.sequential()线性层中相邻层出现维度匹配错误的解决办法

因为 nn.Sequential() 中默认情况下,前一个层的输出形状必须和后一个层的输入形状一致。而假设有时根据实际情况需要将输入输出并不匹配的层包装起来,就是前一层的输出的维度与后一层的输入所要求的维度不匹配,这是就会报错例如下面代码

self.shortcut = nn.Sequential(
                P4MConvP4M(in_planes, self.expansion*planes, kernel_size=1, stride=stride,                                 
                            bias=True),
                nn.BatchNorm2d(self.expansion*planes)
            )

里面共有两层:第一层 P4MConvP4M 的输出是 5 维的,而而第二层nn. BatchNorm2d 只接受 4 维的输入。因此,在将这两个层连接起来运行时会报错:ValueError: expected 4D input (got 5D input

要解决这个问题,可以在 nn.Sequential() 中间添加一个函数来处理前一层的输出形状,将其转换为 4 维,再传递给 BatchNorm2d。因为在sequential这个包装里无法使用变量自带的属性函数如 .reshape,但我们的目的就是要改变这个层的输出形状,没有自带函数,我们可以自己组建一个类实现。例如,可以添加一个 Reshape 类,它会将 5 维的输出形状转换为 4 维,针对上面问题代码示例如下:

class Reshape(nn.Module):
    def __init__(self):
        super(Reshape, self).__init__()

    def forward(self, x):
        return x.view(x.size(0), x.size(1) * x.size(2), x.size(3), x.size(4))

然后在nn.sequential()里的两层之间引用这个类就好了

self.shortcut = nn.Sequential(
                P4MConvP4M(in_planes, self.expansion*planes, kernel_size=1, stride=stride, 
                            bias=True),
                Reshape(),
                nn.BatchNorm2d(self.expansion*planes)
            )

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值