用自己训练的权重训练其他模型出现的问题ValueError: loaded state dict contains a parameter group that doesn‘t match the s

已于 2023-06-02 10:33:35 修改
阅读量1.2k 收藏 5
点赞数 1
文章标签： 深度学习 机器学习 python
于 2023-06-01 17:30:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/HHHAOA/article/details/130990374
版权

在针对自己的数据集训练得到一个最好的权重best.pt，在基础模型上进行了更改，想用此best.pt训练改进后的模型，但是出现了以下错误：

ValueError: loaded state dict contains a parameter group that doesn't match the size of optimizer's group

加载的模型优化器参数和改进的模型优化器参数不匹配，优化器参数主要包括每个 batch 上所记录的一些状态信息，例如梯度累积的次数、动量的状态值、学习率的更新状态、轮次等等，便于对模型继续训练，如果仅仅当做预训练权重，可以将优化器参数字典删除，可以使用下面的代码：

python -c "from utils.general import *; strip_optimizer('path/to/best.pt')"

在终端命令框中运行以上命令，例如：

HAOA~
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
ValueError: Could not find a format to read the specified file in mode ‘i’
01-06
此类问题一般跟python的imageio模块有关， 解决办法一 可尝试加个plugin image = io.imread(filename,plugin='matplotlib') 或者加个pilmode imageio.imread(filename,pilmode=RGB) 参考链接一 解决办法二 也可以换别的模块比如Image读取图片，参考链接二 解决办法三 最秀的问题可能是图片本身坏了[捂脸]， 套用大力哥的那句话，“万万没想到哇！”。 简单总结一下：本篇博客提供了该类问题的一个新原因，另外温馨提醒读者们在解决问题过程中也可能忽视了一些不起眼的“硬件问题”，在此引鉴。
optimizer.load_state_dict()报错parameter group不匹配的问题的原因
XCCCCZ的博客
12-30 1325
optimizer.load_state_dict()报错parameter group不匹配的问题的原因 ValueError: loaded state dict contains a parameter group that doesn't match the size of optimizer's group
解决ValueError: loaded state dict contains a parameter group that doesn‘t match the size of optimizer‘
Lina1313的博客
05-12 3112
使用yolo的时候，训练自己的数据集，报错。尝试了各种办法，终于找到了一个可行的，记录一下。大家可以试试，照着在命令框中输入，修改权重文件的路径 Found the solution: Run: """ python -c "from utils.general import *; strip_optimizer('path/to/best.pt')" """ And then retrain. This is the case when you continue training with.
pytorch错误及解决方案
John Kang的博客
04-15 3万+
pytorch错误及解决方案 目录 RuntimeError: CUDA error: device-side assert triggered RuntimeError:invalid argument 5:k not in range for dimension at /pytorch/ate ... ValueError: optimizer got an empty parameter list The size of tensor a (197) must match the..
Error: loaded state dict contains a parameter group that doesn’t match the size of optimizer’s group
ywfwyht的博客
11-24 1938
在这个示例中，我们检查了 optimizer 的 state_dict 和 checkpoint 的 state_dict 尺寸是否匹配。如果它们匹配，我们就可以使用。来加载 optimizer 的 state_dict。否则，我们打印一个错误信息来指示尺寸不匹配。您需要根据您的实际场景来修改示例代码。这个错误通常是由于加载的模型权重和当前模型的结构不一致导致的。通过手动去除偏差参数后，我们可以成功地进行优化。通过对比可以发现，模型的权重中没有。，而优化器中的参数组却包含了。
ValueError: loaded state dict contains a parameter group that doesn‘t match the size of optimizer‘s
weixin_41332732的博客
03-05 1万+
解决训练时报错：ValueError: loaded state dict contains a parameter group that doesn’t match the size of optimizer’s group 大致意思：加载状态 dict 包含一个与优化器组的大小不匹配的参数组 暂时解决：直接注释掉 optimizer.load_state_dict(ckpt[‘optimizer’]) 因为 if cfg.BACKBONE.TRAIN_EPOCH == epoch: logger.inf
AssertionError: ‘.../best.pt‘ acceptable suffix is [‘.pt‘]和ValueError: loaded state dict contains...
热门推荐
qq_38230414的博客
08-05 3万+
AssertionError: '.../best.pt' acceptable suffix is ['.pt']和ValueError: loaded state dict contains...
pytorch固定参数-模型的pretrain和fine-tune
Answer3664的博客
03-15 5125
ValueError: loaded state dict contains a parameter group that doesn't match the size of optimizer's group
优化器pytoch代码分析
Z609834342的博客
10-19 1125
通过torch.optim导入优化器。优化器继承classOptimizer，从Optimizer开始分析，再到SGD和Adam。 Class Optimizer: def __init__(self, params, defaults): torch._C._log_api_usage_once("python.optimizer") self.defaults = defaults if isinstance(params, torch.Tensor): .
关于requires_grad和优化器optim中parameters的记录
11-30 1313
所以，在读取优化器记录的时候要注意，如果保存的数据是针对某些层保存的，而加载的时候又希望对所有层进行训练，这时候优化器数据就没必要加载了，要么写个try，要么就把这行注释掉。在模型中如果设置了requires_grad=True，则表示该层要进行梯度计算，标记为False则不计算梯度，在迁移学习中一般会设置成False，这样会大量减少算力。将模型编辑成我们需要的样子，例如将全连接层的输出定义成我们要的输出。这样做的好处是可以节省计算梯度和优化的算力。我在代码中会保存优化器以便于之后的继续测试。
keras报错：ValueError: Cannot create group in read only mode
01-20
keras保存模型时，使用的是m.save_weights，只保存了模型的权重而没有结构，直接使用keras.models.load_model就会报错。所以，可以重新构建相同结构的模型，（m.save_weights）使用m.load_weights；或者如上m.save，...
python 使用Flask 出现 ValueError: Expected object or value 问题解决
01-06
问题描述： 经过各种百度，搜资料，发现了这样的问题。 这里记录一下，以防以后再犯这样的错误。 我用pandas来读取json文件 调试是正常的。 服务跑起来是出现这样了这样的错误。 首先我的manager.文件与我处理数据...
解决yolov7训练ValueError:not enough values to unpack(expected 3,got0
12-21
我是事先在yolov8pose中训练没问题，继续用数据集训练yolov7pose时出现问题。按照网上有的方法都没办法解决，最后修改标签文件成功解决。 这里我提供一个脚本，将txt转化之后既可以解决！ 这里错误提示是 你的...
Python ValueError: invalid literal for int() with base 10 实用解决方法
12-23
今天在写爬虫程序的时候由于要翻页，做除法分页的时候出现了 复制代码 代码如下: totalCount = ‘100’ totalPage = int(totalCount)/20 ValueError: invalid literal for int() with base 10的错误 网上同样的...
“loaded state dict contains a parameter group that doesn‘t match the“解决方法
最新发布
weixin_51371510的博客
01-04 529
"loaded state dict contains a parameter group that doesn't match the"解决方法
神经网络训练权重保存与下载
immortal508的博客
11-01 3725
1 torch.save() for example： ①保存整个模型：torch.save(model,'---.pth') model：需要保存的模型，即神经网络的model类； '---.pth'：保存地址及文件名，如：'logs/Epoch1.pth'，指：保存在logs文件夹下，保存的pth格式的文件名为Epoch1.pth。 ②只保存训练好的权重：torch....
Keras多GPU训练以及载入权重无效的问题
Marvek的博客
11-15 3238
目录1、数据并行1.1、单GPU或者无GPU训练的代码如下：1.2、数据并行的多GPU 训练2、设备并行 本文讲简单的探讨Keras中使用多GPU训练的方法以及需要注意的地方。有两种方法可在多个 GPU 上运行单个模型：数据并行和设备并行（Keras官方建议使用 TensorFlow 后端）。第一部分讲如何使用数据并行的方式使用多GPU加速；第二部分给出一个设备并行的例子。 1、数据并行 1.1、...
keras 权重保存和权重载入
a362682954的博客
08-11 1万+
如果需要全部权重载入，直接使用权重载入方式 model.save_weights('./weigths.h5') model2.load_weights('./weigths.h5')   但是有时候你只需要载入部分权重 所以你可以这样操作 首先，为所有层命名，在层中直接加入方法　name='layer1' 第二，使用，将你不需要载入权重的值更改名字。 最后，载入权重。 x=B...
[Error]pytorch加载模型权重出现问题Unexpected key(s) in state_dict: “module.backbone.0.weight“,
qq_51682716的博客
05-16 1956
[Error]pytorch加载模型权重出现问题Unexpected key(s) in state_dict: “module.backbone.0.weight”, 参考链接：https://zhuanlan.zhihu.com/p/402293541 问题原因：训练好的模型权重，加载进行测试时报错，原因是权重中含有的网络模型的各个layer与block的名称与网络不对应，且前缀加了个module. 原因分析： 训练模型中使用到 1 model = ResNet50() 2 model = nn.Dat
valueerror: loaded state dict contains a parameter group that doesn't match the size of optimizer's group
06-28
### 回答1： 这个错误通常是由于模型参数和优化器参数不匹配导致的。可能是因为你在加载模型时使用了不同的参数组，或者在训练过程中更改了优化器的参数组。 解决方法是确保加载的模型参数和优化器参数匹配，并且在训练过程中不要更改优化器的参数组。如果需要更改优化器的参数组，可以重新创建一个新的优化器对象。 ### 回答2： 这个错误信息通常是由于在加载模型的过程中，模型的参数组的数量和优化器的参数组数量不匹配导致的。具体来说，可能是在保存模型时使用了不同于当前代码中的优化器或优化器设置，导致加载时出现了不匹配的情况。 要解决这个问题，有几种可能的方法： 1. 使用与保存时相同的优化器和优化器设置来加载模型。这需要确保在保存模型时记录了优化器的名称和参数，以便在加载时能够正确地使用相同的优化器。 2. 更改代码中的优化器设置，以匹配保存模型时使用的优化器。这是必要的，如果无法使用与保存时相同的优化器，则必须确保在加载模型时所使用的优化器设置与模型参数的形状相匹配。 3. 在加载模型时手动调整参数组的数量，使其与当前设置的优化器的参数组数量相匹配。这可能需要一些手动修改和试验，但是可以在不更改代码的情况下解决问题。 无论哪种方法都需要仔细检查代码中的优化器设置和加载模型时所使用的参数，并确保它们完全匹配以避免出现此错误。 ### 回答3： 这个错误是在PyTorch训练过程中常见的错误之一。它通常表示加载的状态字典包含的参数组与优化器的组的大小不匹配。在这种情况下，优化器无法加载状态字典，从而导致错误。如果您遇到了这个问题，那么可能有几个原因。 首先，这可能是由于模型参数的数量发生变化所导致的。这可能是因为您已经对模型进行了更改或重新定义，而您正在加载以前的状态字典。这通常会导致优化器无法正确地加载参数，从而导致错误。 其次，这也可能是由于优化器参数的数量发生变化所导致的。这可能是由于您将模型加载到不同的设备、更改了学习率等优化器参数或重新定义了优化器。当您加载以前的状态字典时，这会导致优化器无法正确地加载参数，从而导致错误。 为了解决这个问题，您可以尝试使用新的状态字典重新训练模型，或者手动调整优化器参数的数量，以确保状态字典与优化器的组大小匹配。如果您只是更改了模型的参数或优化器参数，则可以尝试重新训练模型，并保存新的状态字典。如果您更改了模型定义，则可能需要从头开始训练模型，以确保加载的状态字典与优化器组大小匹配。 最后，如果您无法确定错误的原因，可以检查模型和优化器的定义，并检查它们是否与以前的定义相同。如果仍然出现问题，可以尝试使用不同的优化器或更改模型定义，以解决错误。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值