Missing key(s) in state_dict

最新推荐文章于 2024-04-16 00:15:47 发布

小吕同学吖

最新推荐文章于 2024-04-16 00:15:47 发布

阅读量4k

点赞数 2

分类专栏：笔记文章标签： pytorch 代码规范

本文链接：https://blog.csdn.net/l2181265/article/details/120699535

版权

PyTorch 模型加载 DataParallel 多GPU训练错误修复

关键词由CSDN通过智能技术生成

笔记专栏收录该内容

50 篇文章 0 订阅

订阅专栏

这种错误多半是模型加载错误导致。排查测试代码的模型，与加载的模型是否是同一个。

错误代码：

Missing key(s) in state_dict: "input_block.conv1.conv.weight",...
Unexpected key(s) in state_dict: "module.input_block.conv1.conv.weight",...

错误分析：

区别在于一个加了module，一个没加。

解决办法：

训练模型时，在服务器使用了多GPUtorch.nn.DataParallel()
测试模型时，在本地添加代码torch.nn.DataParallel()即可。

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

小吕同学吖

关注关注

2
点赞
踩
3

收藏

觉得还不错? 一键收藏
打赏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

RuntimeError: Error(s) in loading state_dict for ResNet: Unexpected key(s) in state_dict: “bn1.num

CSDN 精品推荐

01-09

1228

在这个特定的情况下，错误信息中提到了多个“num_batches_tracked”键。这类键在某些 PyTorch 版本中存在，而在其他版本中可能不存在。方法会加载所有匹配的键，而忽略任何不匹配的键，从而避免了这个错误。但是，这种方法应谨慎使用，因为它可能掩盖模型结构和状态字典之间的不一致问题。这样做会使得 PyTorch 忽略不匹配的键，只加载那些与模型结构相匹配的键。这通常发生在模型的结构和要加载的状态字典不完全匹配时。解决这个问题的一个常见方法是在加载状态字典之前，明确地忽略不匹配的键。

Missing key(s) in state_dict: Unexpected key(s) in state_dict:

kaixinjiuxing666的博客

12-20

1万+

如果加载的预训练模型之前使用了torch.nn.DataParallel()，而此时的训练并没有使用，则会出现这样的错误。解决方案有两个： 1：此时的训练加入torch.nn.DataParallel()即可。 2：创建一个没有module.的新字典，即将原来字典中module.删除掉。解决方案1： net = torch.nn.DataParallel(net) cudnn.benchmar...

参与评论您还未登录，请先登录后发表或查看评论

【pytorch载入模型报错解决】Missing key(s) in state_dict、Unexpected key(s) in state_dict

最新发布

kiong_的博客

04-16

3388

但这样有一个很直观的问题：许多参数都没找到，strict=False只会导致几乎所有参数都无法加载进来。

解决问题Missing key(s) in state_dict

牛肉胡辣汤

11-29

4129

总结：当遇到"Missing key(s) in state_dict"错误时，首先要分析模型的架构是否一致，然后确保在加载模型时使用了正确的模型类。它是一个有序字典，键是模型的每个可学习参数或缓冲区的名称，值则是对应参数或缓冲区的张量。它是一个有序字典，键是模型的每个可学习参数或缓冲区的名称，值则是对应参数或缓冲区的张量。训练过程中，我们保存了模型的。在深度学习中，我们经常需要保存和加载模型的状态，以便在不同的场景中使用。可以用来保存和加载模型的状态，使我们能够轻松地保存、加载和共享模型的参数。

Missing key(s) in state_dict: “features.conv1.weight“

weixin_43856668的博客

06-22

2686

试了网上很多解决方法，最终试出了可行的方法：把原来的代码： model.load_state_dict(checkpoint['state_dict']) 替换成： new_state_dict = OrderedDict() # 修改 key for k, v in checkpoint.items(): if 'denseblock' in k: param = k.split(".") k = ".".join(param[:-3] + [para

Missing key(s) in state_dict:

Tume233的博客

08-13

1380

今天调试代码的时候发现一个错误： Missing key(s) in state_dict: 错误代码： model.bert.load_state_dict(torch.load(args.init_checkpoint, map_location="cpu")) 解决方案： model.load_state_dict(torch.load(args.init_checkpoint), False) ...

Pysot demo.py载入模型报错 “Missing key(s) in state_dict”的解决方案

qq_40313336的博客

04-20

2208

如何在Pysot的demo.py中加载自己训练后的模型

Missing key(s) in state_dict: “module.resnet50.conv1.weight“

sunnyblogs的博客

06-03

1691

在使用训练好的模型验证时，报以下错误： self.__class__.__name__, "\n\t".join(error_msgs))) RuntimeError: Error(s) in loading state_dict for DataParallel: Missing key(s) in state_dict: "module.resnet50.conv1.weight", "module.resnet50.bn1.weight", "module.resnet50.bn1.bias

Missing key(s) in state_dict | unexpected_keys | 模型加载 [torch.load] 报错【解决方案】

Akita·Wang's Semantic Segmentation

04-14

2006

目录错误分析该报错快速直接解决方法错误分析代码块： model.load_state_dict(torch.load(checkpoint, map_location='cpu')) 控制台报错提示： Unexpected key(s) in state_dict: “epoch”, “model”. 或者是 Unexpected key(s) in state_dict: “XXX”, “XXX”. 该报错快速直接解决方法 model.load_state_dict 时设置 strict=F

RuntimeError: Error(s) in loading state_dict for CE_Net_: Missing key(s) in state_dict: “MobileNet“

weixin_45561795的博客

11-14

2626

Pytorch预测时，加载权重遇到这种问题： RuntimeError: Error(s) in loading state_dict for CE_Net_: Missing key(s) in state_dict: “MobileNetV3_encoder.conv0.0.weight”, “MobileNetV3_encoder.conv0.1.weight”, “MobileNetV3_encoder.conv0.1.bias”, “MobileNetV3_encoder.conv0.1.runn

Missing key(s) in state_dict: “module.features.0.0.weight

qq_35037684的博客

03-23

4899

Missing key(s) in state_dict: "module.features.0.weight", "module.features.0.bias", .... Unexpected key(s) in state_dict: "features.0.weight", "features.0.bias", ... nn.DataParallel是pytorch使用多gpu训练时所使用的方法，但是使用nn.DataParallel之后，模型的读取就会有所不同。最常见的情况就是使用的预训练模型

pytoch使用nn.DataParallel导致Missing key(s) in state_dict错误

single_dog的博客

03-05

1610

1.nn.DataParallel nn.DataParallel是pytorch使用多gpu训练时所使用的方法，但是使用nn.DataParallel之后，模型的读取就会有所不同。最常见的情况就是使用的预训练模型并不是在多张gpu上训练得来的，没有使用nn.DataParallel包装，但现在想要使用这个预训练模型就不能直接用下面的代码 model.load_state_dict(torch.load(save_path)) 否则就会报以下错误 Missing key(s) in state_dict:

加载模型报错Missing key(s) in state_dict: