pytorch load_state_dict 保存的register_buffer的问题

最新推荐文章于 2024-04-24 15:43:23 发布
最新推荐文章于 2024-04-24 15:43:23 发布
阅读量1k 收藏
点赞数
分类专栏： python 文章标签： pytorch 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_17792451/article/details/122601662
版权

在模型中注册了一个buffer 在forward的时候更新
在这里插入图片描述
更新buffer的代码

加载模型的程序
加载时的输出
从输出可以看到 checkpoint里已经保存了正确的buffer，但是load时buffer反而被覆盖。网上有个答复是使用strict=False 但是我的不管用 暂且没有解决

        self.net.load_state_dict(checkpoint['net'],strict=False)

使用暴力的方法也可以解决，直接对buffer进行赋值 不使用load_state_dict

self.net.amsoftmax.m=checkpoint['net']['amsoftmax.m']
GIS--段小楼
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
解决pytorch DataLoader num_workers出现的问题
09-18
今天小编就为大家分享一篇解决pytorch DataLoader num_workers出现的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
mnist.zip_MNIST pytorch_pytorch_pytorch mnist_pytorch network_zi
09-20
mnist 网络模型，pytorch 实现
【Pytorch】模型中buffer的使用
mjiansun的专栏
08-22 3839
感觉就是将一个常量赋值给了一个张量。 总说 我们知道，pytorch一般情况下，是将网络中的参数保存成OrderedDict形式的。这里额参数其实包括2种：一种是模型中各种 module含的参数，即nn.Parameter，我们当然可以在网络中定义其他的nn.Parameter参数。另外一种是buffer。前者每次optim.step会得到更新，而不会更新后者。 例子 第一个例子 ...
pytorch笔记 pytorch模型中的parameter与buffer
qq_40206371的博客
06-17 2061
在 Pytorch 中一种模型保存和加载的方式如下:
Pytorch学习（十七）--- 模型load各种问题解决
热门推荐
Hungryof的专栏
08-02 7万+
简单的模型load 一般来说，保存模型是把参数全部用model.cpu().state_dict(), 然后加载模型时一般用 model.load_state_dict(torch.load(model_path))。 值得注意的是：torch.load 返回的是一个 OrderedDict. import torch import torch.nn as nn class Net_old(...
【Torch API】pytorch 中register_buffer()函数详解
devil_son1234的博客
05-16 3341
成员变量：不更新，但是不算是模型中的参数（model.state_dict()）通过register_buffer()登记过的张量：会自动成为模型中的参数，随着模型移动（gpu/cpu）而移动，但是不会随着梯度进行更新。
深入理解Pytorch之register_buffer
qq_43391414的博客
10-31 7649
文章目录使用特点疑点 本文很简短，因为这个很容易，特别是看过我之前pytorch深入理解系列的来说。 使用 import torch.nn as nn import torch class net(nn.Module): def __init__(self): super(net,self).__init__() self.register_buffer("a",torch.ones(2,3))#从此，self.a其实就是torch.ones(2,3)。 de
【pytorch载入模型参数报错以及解决办法,小心使用strict=False】
qq_44698655的博客
03-25 6920
pytorch载入模型参数报错，模型与权重文件keys不匹配问题以及解决办法，小心使用strict=False
【Pytorch】加载模型避坑坑load_state_dict中的strict使用与加载多GPU训练的模型
让算法融入生活，改变生活！
12-04 1486
加载模型的小知识， 使用多GPU训练的模型并保存到ckpt中后，使用torch.load_state_dict加载模型的时候将会报错，但是如果将其中的参数设置为True的时候就可以加载，但是当使用加载后的模型去预测数据时，结果错的离谱。 相关内容可以看看这篇博文：关于Pytorch加载模型参数的避坑指南.那么对应的解决方案是，在使用多GPU训练保存模型的时候，保存的模型应该是model.module，并不是直接保存model。（假设使用的模型是model）
Pytorch中的register_buffer()
weixin_46197934的博客
08-09 2万+
Pytorch中的register_buffer1.register_buffer( )的使用随着例子边看边讲例子1：使用类成员变量（类成员变量并不会在我们的model.state_dict()，即无法保存）例子2：使用类成员变量（类成员变量并不会随着model.cuda()复制到gpu上）例子3：使用register_buffer()总结2.与pa 1.register_buffer( )的使用 回顾模型保存：torch.save(model.state_dict())，model.state_dict(
pytorch 状态字典:state_dict使用详解
09-18
今天小编就为大家分享一篇pytorch 状态字典:state_dict使用详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
pytorch_wavelets.zip
11-26
This is a PyTorch implementation for the wavelet analysis outlined in Torrence and Compo (BAMS, 1998). The code builds upon the excellent implementation of Aaron O'Leary by adding a PyTorch filter ...
pytorch load state dict_Pytorch模型中的parameter与buffer
weixin_39843078的博客
11-22 142
模型保存在 Pytorch 中一种模型保存和加载的方式如下:# save 可以看到模型保存的是 model.state_dict() 的返回对象。 model.state_dict() 的返回对象是一个 OrderDict ，它以键值对的形式包含模型中需要保存下来的参数，例如:class 输出结果: 模型中的参数就是线性层的 weight 和 bias.Parameter 和 buffer If ...
PyTorch：如何加载预训练参数？
fhcfhc1112的博客
07-14 4955
1.在没有改变原网络结构的情况下 model = resnet50() model = model.load_state_dict(torch.load('model.pth')) torch.load('model.pth')会把网络参数加载到一个有序字典当中, 然后把这个有序字典传递给model.load_state_dict()。 2.在只改变原网络结构的某一层或某几层的情况下 在...
pytorch的buffer学习整理
qq_38765642的博客
11-24 1397
模型中的parameter和buffer数据的区别
Pytorch buffer(register_buffer)
hxxjxw的博客
04-03 1806
回顾模型保存：torch.save(model.state_dict())，model.state_dict()是一个字典，里边存着我们模型各个部分的参数。 在model中，我们需要更新其中的参数，训练结束将参数保存下来。但在某些时候，我们可能希望模型中的某些参数参数不更新（从开始到结束均保持不变），但又希望参数保存下来（model.state_dict() ），这是我们就会用到 register_buffer() 即 模型中需要保存下来的参数包括两种: 一种是反向传播需要被optimizer更新的.
Pytorch模型的保存、加载以及转torchScrip
爱在深秋
06-02 757
前言： pytorch在训练的时候不定时的保存模型，防止因为异常中断而造成前功尽弃。 但是pytorch中保存模型的情况有很多种，导致加载保存后的模型会出现geg
Pytorch学习（十九）--- 模型中buffer的使用
Hungryof的专栏
08-24 1万+
总说 我们知道，pytorch一般情况下，是将网络中的参数保存成OrderedDict形式的。这里额参数其实包括2种。一种是模型中各种 module含的参数，即nn.Parameter，我们当然可以在网络中定义其他的nn.Parameter参数。；另外一种是buffer。前者每次optim.step会得到更新，而不会更新后者。 例子 class myModel(nn.Module):...
Pytorch 计算深度模型的大小
最新发布
今晚看星星的博客
04-24 697
卷积时间复杂度与空间复杂度的计算方式：C 通道的个数，K卷积核大小，M特征图大小，C_l-1是输入通道的个数，C_l是输出通道的个数。
pytorch load_state_dict
03-16
pytorch的load_state_dict函数用于加载模型的参数。它可以将预训练模型的参数加载到当前模型中，以便继续训练或进行推理。该函数的参数是一个字典，其中包含了模型的参数和对应的值。通过调用该函数，可以将字典中的参数值加载到模型中，从而更新模型的参数。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值