Unexpected key(s) in state_dict: "module.backbone.bn1.num_batches_tracked"

最新推荐文章于 2024-01-09 12:16:17 发布
最新推荐文章于 2024-01-09 12:16:17 发布
阅读量1.6w 收藏 11
点赞数 7
分类专栏： pytorch知识宝典
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jacke121/article/details/82495184
版权
在使用PyTorch进行预测时遇到RuntimeError，错误信息提示state_dict中存在未预期的键，主要涉及到'num_batches_tracked'。问题出现在用不同版本的PyTorch（训练时为0.4.1，预测时为0.4.0）导致的加载模型异常。解决方法是通过修改加载字典的键，移除'module.'前缀。
摘要由CSDN通过智能技术生成

pytorch预测的时候报异常了：
{RuntimeError}Error(s) in loading state_dict for DataParallel:
    Unexpected key(s) in state_dict: "module.backbone.bn1.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.DownsampleUnit.bn1r.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.DownsampleUnit.bn2r.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.DownsampleUnit.bn3r.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.DownsampleUnit.bn1l.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.DownsampleUnit.bn2l.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.ShuffleUnit0_0.bn1.num_batches_tracked", "module.backbone.shuffles.ShuffleConvs_0.ShuffleUnit0_0.bn2.

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI算法网奇
关注
  • 7
    点赞
  • 踩
  • 11
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 4
    评论
专栏目录
订阅专栏
pytorch加载模型报错Unexpected key(s) in state_dict: module.conv1.weight, module.bn1
Hello Word!
06-28 1万+
文章目录代码报错原因解决 代码 import models arch = 'resnet50' model = models.__dict__[arch]() checkpoint = torch.load(ckptFile) model.load_state_dict(checkpoint['state_dict']) model = torch.nn.DataParallel(model).cuda() 报错 Traceback (most recent call last
Unexpected key(s) in state_dict
weixin_43487041的博客
04-16 6092
训练多层网络后测试 报错. RuntimeError: Error(s) in loading state_dict for Net_Atv: Unexpected key(s) in state_dict: "net.30.conv1.weight", "net.30.conv1.bias", "net.30.conv2.weight", "net.30.conv2.bias", "net...
Unexpected key(s) in state_dict: “module.backbone.bn1.num_batches_tracked“
牛肉胡辣汤
11-06 1637
当加载保存的​​时，出现​​错误通常是由于键名不匹配引起的。我们可以通过查看模型的键名和保存的​​的键名来找出不匹配的键，并相应地修改它们。另外，使用​​包装模型可以解决多GPU训练导致的键名前缀问题。希望本文能帮助你解决​​错误，并顺利加载模型参数。
PyTorch加载模型model.load_state_dict()问题，Unexpected key(s) in state_dict: “module.features..，Expected .
09-18 4451
Unexpected key(s) in state_dict: "module.features. ...".，Expected ".features....". 直接原因是key值名字不对应。 表明了加载过程中，期望获得的key值为feature...，而不是module.features....。这是由模型保存过程中导致的，模型应该是在DataParallel模式下面，也就是采用了多GPU训练模型，然后直接保存的。 You probably saved the model ...
PyTorch多GPU模型保存和加载的一个注意事项-Unexpected key(s) in state_dict
anshiquanshu的专栏
12-26 2486
用PyTorch加载已经保存好的模型参数文件时遇到一个bug： Unexpected key(s) in state_dict: “module.features. …”.，Expected “.features…” 意思是从本地文件中加载模型的state_dict时，state_dict的key值不匹配。查了一些资料后，发现是PyTorch多gpu保存的问题，导致保存下来的state_dict中的key比原来都多了一个module，因此出现了上述这个问题。下面简单验证一下。 import to
[Error]pytorch加载模型权重出现问题Unexpected key(s) in state_dict: “module.backbone.0.weight“,
qq_51682716的博客
05-16 2106
[Error]pytorch加载模型权重出现问题Unexpected key(s) in state_dict: “module.backbone.0.weight”, 参考链接：https://zhuanlan.zhihu.com/p/402293541 问题原因：训练好的模型权重，加载进行测试时报错，原因是权重中含有的网络模型的各个layer与block的名称与网络不对应，且前缀加了个module. 原因分析： 训练模型中使用到 1 model = ResNet50() 2 model = nn.Dat
RuntimeError: Error(s) in loading state_dict for ResNet: Unexpected key(s) in state_dict: “bn1.num
最新发布
CSDN 精品推荐
01-09 764
在这个特定的情况下，错误信息中提到了多个“num_batches_tracked”键。这类键在某些 PyTorch 版本中存在，而在其他版本中可能不存在。方法会加载所有匹配的键，而忽略任何不匹配的键，从而避免了这个错误。但是，这种方法应谨慎使用，因为它可能掩盖模型结构和状态字典之间的不一致问题。这样做会使得 PyTorch 忽略不匹配的键，只加载那些与模型结构相匹配的键。这通常发生在模型的结构和要加载的状态字典不完全匹配时。解决这个问题的一个常见方法是在加载状态字典之前，明确地忽略不匹配的键。
Missing key(s) in state_dict: “module.resnet50.conv1.weight“
sunnyblogs的博客
06-03 1644
在使用训练好的模型验证时，报以下错误： self.__class__.__name__, "\n\t".join(error_msgs))) RuntimeError: Error(s) in loading state_dict for DataParallel: Missing key(s) in state_dict: "module.resnet50.conv1.weight", "module.resnet50.bn1.weight", "module.resnet50.bn1.bias
Unexpected key(s) in state_dict: “dense_block1.denselayer1.norm.1
jacke121的专栏
01-04 2349
Unexpected key(s) in state_dict: "dense_block1.denselayer1.norm.1 from torchvision.models import densenet121 from collections import OrderedDict model = densenet121(pretrained=False) state_dict =torch.load(model_weight_path) # 初始化一个空 dict new_sta...
解决Unexpected key(s) in state_dict: “module.backbone.bn1.num_batches_tracked“
牛肉胡辣汤
11-17 1309
这个错误通常是由于保存模型参数时使用的模型状态字典（state_dict）与加载模型时使用的模型结构不匹配导致的。当我们加载模型参数时，PyTorch会根据state_dict中的key与模型中的参数进行匹配，然后将参数值加载到对应的模型中。然而，加载模型时，模型结构中没有找到与该参数名称对应的模型参数，因此出现了Unexpected key(s)的错误提示。我们想要加载预训练的ResNet模型参数，但是由于state_dict中的key与模型结构不匹配，我们使用for循环手动删除了不匹配的key。
pytorch错误解决：Missing key(s) in state_dict: Unexpected key(s) in state_dict:
热门推荐
u013925378的博客
03-09 2万+
在进行模型测试时报错： Missing key(s) in state_dict: xxxxxxxxxx Unexpected key(s) in state_dict:xxxxxxxxxx 报错原因： 在模型训练时有加上：【可以加速训练速度】 model = nn.DataParallel(model) #cudnn.benchmark = True 但是在模型测试推断时，在...
Unexpected key(s) in state_dict解决方案
hihui1231的博客
11-07 4397
Unexpected key(s) in state_dict
Pytorch加载模型model.load_state_dict()问题,Unexpected key(s) in state_dict
weixin_39331401的博客
05-19 4998
希望将训练好的模型加载到新的网络上。如上面题目所描述的，PyTorch在加载之前保存的模型参数的时候，遇到了问题。 版权声明：本文为CSDN博主「是否龙磊磊真的一无所有」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。 原文链接：https://blog.csdn....
Huggingface填坑：Unexpected key(s) in state_dict: “roberta.pooler.dense.weight“....
菜比的博客
10-23 2533
在加载已经训练好的模型时，出现问题如下： RuntimeError: Error(s) in loading state_dict for RobertaForSequenceClassification: Unexpected key(s) in state_dict: "roberta.pooler.dense.weight", "roberta.pooler.dense.bias". 先说原因 版本问题！ 在huggingface3.1.0中，roberta相关模型的实现是11层tr
【pytorch加载模型错误】Unexpected key(s) in state_dict: “epoch“, “arch“, “state_dict“, “optimizer“, “args“
重剑无锋博客
11-30 1745
Unexpected key(s) in state_dict
Missing key(s) in state_dict: "conv1.weight" Unexpected key(s) in state_dict: "model.conv1.weight",
06-09
这个问题发生在使用预训练模型的时候，可能是因为预训练模型的权重参数的key与当前模型的权重参数的key不匹配所致。可以尝试使用模型的load_state_dict方法，将预训练模型的权重参数加载到当前模型中。在加载时需要使用字典类型的参数进行匹配。例如，如果预训练模型中的key为"model.conv1.weight"，而当前模型中的key为"conv1.weight"，可以通过以下代码进行加载： ```python pretrained_dict = torch.load('pretrained_model.pth') model_dict = model.state_dict() # 将预训练模型的key中的"model."去掉 pretrained_dict = {k.replace("model.", ""): v for k, v in pretrained_dict.items()} # 将预训练模型的参数加载到当前模型中 model_dict.update(pretrained_dict) model.load_state_dict(model_dict) ``` 这样就可以将预训练模型的权重参数加载到当前模型中了。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI算法网奇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值