Pytorch踩坑记录

1、

使用现有模型时，如resnet、vgg16时，进行改进后，如果只想训练自己改进后的参数，可以先将原来网络参数的requires_grad = False

net = resnet50(pretrained = True)
for param in net.parameters():
    param.requires_grad = False
#添加自己定义的层
net.fc = nn.Linear(net.fc.in_features, 100)
#在训练时，只需要在optizimer里面设定部分参数
optimizer = torch.optim.Adam(["params": net.fc.parameters()], lr = 0.01)
#这样就可以只训练自定义部分参数

 2、

如果想将两个模型训练的结果融合，更好的做法是在网络中直接实现，而不是放在主程序中实现

例如:

那可以创建一个融合的网络，使得在主程序中只有一个net.train()，一个net1.eval()

class Fusion1(nn.Module):
    def __init__(self):
        super(Fusion1, self).__init__()
        self.RGB_generator = FCN32s1()
        self.HHA_generator = FCN32s2()