Missing key(s) in state_dict: Unexpected key(s) in state_dict:

如果加载的预训练模型之前使用了torch.nn.DataParallel(),而此时的训练并没有使用,则会出现这样的错误。

解决方案有两个:

1:此时的训练加入torch.nn.DataParallel()即可。

2:创建一个没有module.的新字典,即将原来字典中module.删除掉。

解决方案1:

model = torch.nn.DataParallel(model)
cudnn.benchmark = True

解决方案2:

# original saved file with DataParallel
state_dict = torch.load('myfile.pth')
# create new OrderedDict that does not contain `module.`
from collections import OrderedDict
new_state_dict = OrderedDict()
for k, v in state_dict.items():
    name = k[7:] # remove `module.`
    new_state_dict[name] = v
# load params
model.load_state_dict(new_state_dict)


解决方案3:

model.load_state_dict({k.replace('module.',''):v for k,v in torch.load('myfile.pth').items()})

前面两种方法我没有实验,但是第三种方法确实有效:

将加载的model改成这个:

#  原来模型:model.load_state_dict(torch.load(os.path.join(save_dir, 'model_noise_cv.dat')))

# 改为:
model.load_state_dict({k.replace('module.',''):v for k,v in torch.load(os.path.join(save_dir, 'model_noise_cv.dat')).items()})

 

  • 5
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值