pytorch复现失败与加载报错RuntimeError: Error(s) in loading state_dict for SegmentationNet

于 2024-05-03 17:49:03 发布
阅读量202 收藏
点赞数 3
分类专栏： # 深度学习问题 文章标签： 深度学习 python 人工智能 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43967413/article/details/138420622
版权

问题描述

加载模型的时候报错：
在这里插入图片描述
然后其他回答说设置strict=False可以解决，但是设置后出现结果不可复现的情况
在这里插入图片描述

原因分析

strict=False是不相同的参数不加载，从而不报错，如果参数都不相同，那就都没加载，相当于没加载参数，所以复现不了。


仔细观察报错信息，发现加载的checkpoint是带module前缀的。然后就想起了torch.nn.DataParallel是这么操作的，也就是把模型加载到module这个属性下

问题解决

在加载模型之前需要提前调用torch.nn.DataParallel设置模型，然后再加载模型参数
在这里插入图片描述

愿你被这个世界温暖相待
关注
  • 3
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
RuntimeError: Error(s) in loading state_dict for ft_net:
qq_41615583的博客
07-08 6382
问题描述： RuntimeError: Error(s) in loading state_dict for ft_net: Unexpected key(s) in state_dict: “classifier0.add_block.0.weight”, "classifi… Missing key(s) in state_dict: “classifier.add_block.0.weigh...
strict=False后还是报错RuntimeError: Error(s) in loading state_dict for Siamese:
heromps的博客
10-22 791
我们知道通过可以暂且忽略掉模型和参数文件中不匹配的参数，先将正常匹配的参数从文件中载入模型。一开始感觉很奇怪，我已经写明strict=False了，不匹配参数的不管就是了，为什么还要给我报错。
深度学习-服务器pytorch多GPU训练踩坑，报错RuntimeError: Error(s) in loading state_dict
liux1997的博客
03-14 1781
多GPU服务器训练pytorch模型，加载报错
RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX
淮水竹亭
03-02 2622
加载模型时发生错误RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX   按照网上的方法在load_state_dict函数参数中加入strict=False，不顶用。   最后发现是重装系统后，配置的pytorch环境和依赖包版本都和之前保持一致，之前训练的权重文件直接拿来test就出现这个问题。可能还是哪里环境发生变化了，只有重新训练模型得到新的权重文件，再test,问题解决
【Error】Pytorch测试神经网络时出现“RuntimeError: Error(s) in loading state_dict for *** “
⛄
01-24 717
解决方法一： load_state_dict(torch.load(‘net.pth’)在前，增加 model = nn.DataParallel(model) 就可以了。 例如： net = NET() net.cuda() net = nn.DataParallel(net) net.load_state_dict(torch.load('net.pth') 如果还不行可以考虑是pytorch版本换成大于1.0.0（小于0.4.0），若果是别人训练好的权重还应该考虑是不是自己的模型和别人的权重文件不匹
pytorch 状态字典:state_dict使用详解
09-18
PyTorch中的`state_dict`是一个非常重要的工具，它用于保存和加载模型的参数。`state_dict`是一个Python字典，其中键是网络层的标识，值是对应层的权重和偏差等参数。这个功能使得在训练过程中可以方便地保存模型的...
linux或windows环境下pytorch的安装与检查验证(解决runtimeerror问题)
09-14
在Linux或Windows操作系统上安装PyTorch时，可能会遇到各种问题，特别是RuntimeError。本文将详细介绍如何在这些环境下正确安装PyTorch，并提供解决RuntimeError的方法。 首先，我们访问PyTorch的官方网站...
加载模型出现-RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX
与君共勉，一起学习
05-04 6864
加载模型时发生错误RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX Traceback (most recent call last): File "demo.py", line 380, in <module> model.load_state_dict(torch.load('./0428.pth')) File "/root/miniconda
RuntimeError: Error(s) in loading state_dict for ResNet: Unexpected key(s) in state_dict: “bn1.num
最新发布
CSDN 精品推荐
01-09 636
在这个特定的情况下，错误信息中提到了多个“num_batches_tracked”键。这类键在某些 PyTorch 版本中存在，而在其他版本中可能不存在。方法会加载所有匹配的键，而忽略任何不匹配的键，从而避免了这个错误。但是，这种方法应谨慎使用，因为它可能掩盖模型结构和状态字典之间的不一致问题。这样做会使得 PyTorch 忽略不匹配的键，只加载那些与模型结构相匹配的键。这通常发生在模型的结构和要加载的状态字典不完全匹配时。解决这个问题的一个常见方法是在加载状态字典之前，明确地忽略不匹配的键。
RuntimeError: Error(s) in loading state_dict for
weixin_36670529的博客
04-24 1万+
1.在载入模型参数前加上： model = nn.DataParallel(model) 2.更改torch版本 部分原因是模型之间torch版本不匹配导致，加载使用模型时和训练模型时的环境不一致，可以重新安装torch 3.增加load_state_dict()属性 model.load_state_dict(checkpoint['state_dict'], strict=False) ...
pytorch RuntimeError: Error(s) in loading state_dict for DataParall ...导入模型报错解决方法
热门推荐
DavidEnterpriseStar的博客
02-28 1万+
在pytorch导入模型文件时报错： RuntimeError: Error(s) in loading state_dict for DataParallel: Unexpected running stats buffer(s) "module.norm1.norm_func.running_mean" and "module.norm1.norm_func.running_va...
pytorch多GPU训练和测试的问题： RuntimeError: Error(s) in loading state_dict for CPN:
^_^
03-15 3996
Windows10上，使用两块显卡，训练pytorch模型，语句如下： model = network() if torch.cuda.device_count() > 1: model = nn.DataParallel(model) # 多gpu上训练 model.cuda() 然后在测试时，导入模型会报如下类似错误： RuntimeError: Error(s) ...
torch RuntimeError: Error(s) in loading state_dict for CRNN:
hzhj的博客
01-13 3416
加载训练的模型报如下错误。 >>> model.load_state_dict(torch.load(model_path)) Traceback (most recent call last): File "<stdin>", line 1, in <module> File "/usr/local/lib/python2.7/dist-pa...
RuntimeError: Error(s) in loading state_dict for UNet:
05-13
这个错误通常是由于加载模型时，模型的state_dict与当前代码中定义的模型结构不匹配导致的。可能的原因包括： 1. 模型定义发生了变化，导致state_dict与当前定义的模型结构不一致。 2. 加载的state_dict文件与当前模型结构不兼容，可能是由于使用了不同版本的PyTorch或者模型参数不同。 解决方法： 1. 确保模型定义没有发生变化，如果有变化需要重新训练模型或者手动调整state_dict的参数与模型结构一致。 2. 确保加载的state_dict文件与当前模型结构兼容，可以尝试使用相同版本的PyTorch或者手动修改state_dict参数。 以下是一个简单的示例，可以用来加载state_dict并检查其与当前模型结构是否匹配： ``` model = UNet() # 创建模型 state_dict = torch.load(PATH) # 加载 state_dict model.load_state_dict(state_dict) # 加载 state_dict # 检查模型参数是否匹配 for name, param in model.named_parameters(): if name in state_dict: if state_dict[name].shape != param.shape: print(f"Error: Parameter {name} does not match!") else: print(f"Warning: Parameter {name} not found in state_dict!") ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值