model.load_state_dict(state_dict)报错出现参数与模型不匹配

项目场景:

最近在使用UNETR做医学图像的分割,当遇到如下问题:

  1. 在训练的途中突然断掉需要拿之前保存的checkpoint加载后继续训练
  2. 或者使用训练好的预训练模型继续训练
    就需要用到预训练的命令和代码,成为微调

问题描述

输入命令行如下

python main.py --feature_size 32 --batch_size 1 --logdir unetr_test --optim_lr 1e-4 --lrschedule warmup_cosine --infer_overlap 0.5 --save_checkpoint --data_dir "/data/MAE/research-contributions-main/UNETR/BTCV/dataset/dataset0/" --pretrained_dir "/data/MAE/research-contributions-main/UNETR/BTCV/pretrained_models/" --noamp --pretrained_model_name "model_final.pt" --distributed --resume_ckpt

model.load_state_dict(state_dict)报错出现参数与模型不匹配


原因分析:

之前保存参数时还加入了epoch loss等模型不需要的参数,


解决方案:

只需要在加载参数时把 model.load_state_dict(state_dict)换成 model.load_state_dict(state_dict, strict=False)即可解决

参考:

  1. model.load_state_dict(state_dict, strict=False)
  2. model.load_state_dict(state_dict)报错问题
  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
model.load_state_dict报错是由于模型载入参数不匹配造成的。具体原因是在载入参数时,模型state_dict中缺少了一些键或者有一些额外的键。 解决这个问题的方法有两种。第一种方法是手动修改state_dict,使其键与模型中的参数键匹配。你可以使用model.state_dict()来查看模型参数键,然后通过添加或删除state_dict中的键来实现匹配。第二种方法是在载入参数时使用strict=False参数,这样可以忽略掉一些不匹配的键,但是要注意这可能会导致一些参数无法载入或者参数不正确。 需要注意的是,如果你选择使用strict=False参数,请确保模型的结构与载入参数的结构是一致的,否则可能会导致模型无法正常工作。你可以通过查看模型的结构和载入参数的结构来确保它们的一致性。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [【pytorch载入模型参数报错以及解决办法,小心使用strict=False】](https://blog.csdn.net/qq_44698655/article/details/123730036)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [ResNet模型权重.zip](https://download.csdn.net/download/qq_45388369/21057686)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值