pytorch:size mimatch,m1:[7168*7],m2:[25088*4096]

目标:迁移vgg16,固定卷积池化层以及前两层全连接层,在分类层的最后一层前面再加两层全连接层

原来的代码:

class CNN(nn.Module):
    def __init__(self, model):
        super(CNN, self).__init__()
        self.vgg_layer = nn.Sequential(
        *list(model.children())[:-1],
        *list(model.classifier.children())[:-1]
        )
                
        self.Linear_layer = nn.Sequential(
            nn.Linear(4096, 4096),
            nn.ReLU(True),
            nn.Dropout(),
            nn.Linear(4096, 4096),
            nn.ReLU(True),
            nn.Dropout(),
            nn.Linear(4096, 10),      
        )

    def forward(self, x):
        x = self.vgg_layer(x)
        x = x.view(x.size(0), -1)
        x = self.Linear_layer(x) 
       
        return x

输出后出现错误,如题。
输出了网络,形式上好像没有什么错误,于是将sequential里面的分开,然后分别输出x,即

class CNN(nn.Module):
    def __init__(self, model):
        super(CNN, self).__init__()
        self.vgg_layer1 = nn.Sequential(*list(model.children())[:-1])
        self.vgg_layer2 = nn.Sequential(*list(model.classifier.children())[:-1])
        
        self.Linear_layer = nn.Sequential(
            nn.Linear(4096, 4096),
            nn.ReLU(True),
            nn.Dropout(),
            nn.Linear(4096, 4096),
            nn.ReLU(True),
            nn.Dropout(),
            nn.Linear(4096, 10),      
        )
        ones = torch.Tensor(np.ones([10,10]))
        self.xi_layer = nn.Linear(10, 1, bias=False)
        self.xi_layer.weight=torch.nn.Parameter(ones)

    def forward(self, x):
        x = self.vgg_layer1(x)
        print(x.shape)
        x = self.vgg_layer2(x)
        x = x.view(x.size(0), -1)
        x = self.Linear_layer(x) #(1, 10)
        x = self.xi_layer(x)        
        return x

输出的x本来应该是(255×7×7)最后输出发现是(2×255×7×7)维度明显不对,原来是少写了一行

        x = self.vgg_layer1(x)
        x = x.view(x.size(0), -1)
        x = self.vgg_layer2(x)
        x = x.view(x.size(0), -1)

再输出就能发现是正确的(255×7×7),问题解决!

注意:
1.出现维度问题的时候一定要记得输出每一层的输出或者维度,更便于发现问题;
2.全连接层后面不要忘了加x = x.view(x.size(0), -1)。

  • 5
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值