torch的DataParallel保存的模型如何载入

使用DataParallel保存的模型在保存后载入的时候存在权重不匹配的问题,原因是每层的参数是
会比原来多一个module的设置。

import torch
from collections import OrderedDict#python自带的库

state_dict=torch.load(config.model_save_path+"_best")["model"]#我的权重存储在文件的model字段里面的
'''
state = {
                'model': model.state_dict(),
                'epoch': i,
                'training_loss':np.mean(T_loss_L),
                'validation_loss':np.mean(V_loss_L),
                'training_acc':np.mean(T_acc_L),
                'validation_acc':np.mean(V_acc_L)
            }
'''
best_val=torch.load(config.model_save_path+"_best")["validation_loss"]
epoch=torch.load(config.model_save_path+"_best")["epoch"]
print("retraing from %d where val loss is %f"%(epoch,best_val))

new_state_dict = OrderedDict()

for k, v in state_dict.items():
	name = k[7:] # module字段在最前面,从第7个字符开始就可以去掉module
	new_state_dict[name] = v #新字典的key值对应的value一一对应


model.load_state_dict(new_state_dict)
print("reload model!")

有疑惑的话可以打印下state_dict看看。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值