Pytorch加载模型时报错

在Pytorch中遇到加载模型时的'Unexpected key(s) in state_dict'错误,问题源于多GPU训练保存的模型带有'module.'前缀。解决方案包括在加载时使用'strict=False'参数或手动修改权重键值对,移除'module.'前缀,确保模型与权重匹配。
摘要由CSDN通过智能技术生成

加载模型时出现Unexpected key(s) in state_dict错误

报错截图如下:
在这里插入图片描述
反复排查问题没发现为何如此,查看pytorch中文文档发现保存和加载模型方法都完全正确,模型保存和加载代码对比中文文档截图如下:
在这里插入图片描述
其中一个方法是在加载模型时添加参数strict=False,可以只保留键值相同的参数避免出错,用法如下:model.load_state_dict(ckpt[‘state_dict’],False),注意ckpt是我加载权重时自定义的对象名。
但是继续训练发现实际上原有的权重都没有加载进来,因为没有键值相同的参数。此处行不通

继续深究发现多一个module是因为通过多GPU训练保存的模型!如果是在cpu训练的模型则不会带有module,解决很简单,在加载权重前先将模型映射到GPU训练,
model = torch.nn.DataParallel(model)
ckpt = torch.load(args.weights)
model.load_state_dict(ckpt[‘state_dict’])
或者还有解决办法,直接将权重里面key值中含有的module.删掉,改写权重键值对
ckpt = torch.load(model_path,map_location=‘cpu’)
from collections import OrderedDict
new_state_dict = OrderedDict()
for k, v in ckpt.items():
name = k[7:] # remove module.
new_state_dict[name] = v
model.load_state_dict(new_state_dict)

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PyTorch加载模型模型名称不一样,主要有两个方面的原因: 1. 模型名称本身不同:PyTorch加载模型,通过提供模型的名称或路径来加载模型。如果提供的模型名称不一样,就无法找到相应的模型文件进行加载。因此,需要确保提供的模型名称正确且一致。 2. 模型文件缺失或变动:如果模型文件发生了变动,例如更改了模型的保存路径、重新训练模型生成了新的模型文件等,那么在加载模型必须使用与模型文件一致的名称。如果模型文件缺失或名称不一致,PyTorch将无法找到相应的模型文件进行加载。 解决这个问题的方法如下: 1. 检查模型名称:确保提供的模型名称与模型文件的名称一致,包括大小写、后缀等。可以使用文件管理工具(如文件资源管理器)或代码中的路径函数(如`os.path`)来精确获取模型文件的名称。 2. 检查模型文件所在路径:确保模型文件位于正确的路径下,或使用正确的路径字符串来指示模型文件所在的目录。如果模型文件被移动或重新保存,请确保提供的路径与实际路径一致。 3. 检查模型文件:检查模型文件是否存在,包括确保模型文件没有被删除或移动到其他位置。如果模型文件丢失,重新训练或找回原来的模型文件,然后使用正确的名称进行加载。 总之,通过仔细检查模型名称、路径和文件的一致性,可以解决PyTorch加载模型名称不一样的问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值