register_buffer更新

最新推荐文章于 2024-09-13 08:00:00 发布
最新推荐文章于 2024-09-13 08:00:00 发布
阅读量444 收藏
点赞数
分类专栏： python 文章标签： pytorch 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_17792451/article/details/121084577
版权

pytorch 不支持在forward里更新和注册 register_buffer
在这里插入图片描述
解决办法是吧register放在init里
在这里插入图片描述

但是有时会遇到forward后更新buffer的操作，用上边的方法会出错
Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cpu!
内部原理不清楚 但是分析一下 pytroch的cuda 和cpu类型是不同的类型 所以直接tensor赋值 会导致‘test’变量变回cpu,解决办法如下

 self.test  = torch.tensor(hexa.mask.square_axial(ny, nx)[None, None, None, ...]).type_as(self.test)

也就是更新的时候把type设置为一致即可

参考

  • https://github.com/pytorch/pytorch/issues/57740
  • https://stackoverflow.com/questions/67909883/updating-a-register-buffer-in-pytorch
GIS--段小楼
关注
专栏目录
UART.zip_UART VHDL
09-19
2. **移位寄存器（Shift Register）**：在发送时，将并行数据字左移一位一位地发送出去；在接收时，逐位接收并存储数据。 3. **控制逻辑（Control Logic）**：处理启动位、数据位、停止位和奇偶校验位的检测与生成...
self.register_buffer()中的值发生变化
zjh12312311的博客
07-29 361
PyTorch中定义模型时，有时候会遇到self.register_buffer('name', Tensor)的操作，但是在使用时发现，buffer里的值发生变化了。解决办法为使用clone。
【Torch API】pytorch 中register_buffer()函数详解
devil_son1234的博客
05-16 5313
成员变量：不更新，但是不算是模型中的参数（model.state_dict()）通过register_buffer()登记过的张量：会自动成为模型中的参数，随着模型移动（gpu/cpu）而移动，但是不会随着梯度进行更新。
详细分析Pytorch中的register_buffer基本知识（附Demo）
最新发布
码农研究僧的博客
09-13 1487
register_buffer 是 PyTorch 中 torch.nn.Module 提供的一个方法，允许用户将某些张量注册为模块的一部分，但不会被视为可训练参数。这些张量会随模型保存和加载，但在反向传播过程中不会更新 register_buffer 的作用： 将张量注册为模型的缓冲区（buffer），意味着这些张量会与模型一起保存和加载 与参数不同，缓冲区不会参与梯度计算，因此不会在训练时更新 常用于存储像均值、方差、掩码或其他状态信息
pytorch中self.register_buffer()作用
dagouxiaohui的博客
07-06 2422
pytorch中self.register_buffer()作用
Pytorch中的register_buffer()
weixin_46197934的博客
08-09 2万+
Pytorch中的register_buffer1.register_buffer( )的使用随着例子边看边讲例子1：使用类成员变量（类成员变量并不会在我们的model.state_dict()，即无法保存）例子2：使用类成员变量（类成员变量并不会随着model.cuda()复制到gpu上）例子3：使用register_buffer()总结2.与pa 1.register_buffer( )的使用 回顾模型保存：torch.save(model.state_dict())，model.state_dict(
深度学习基础知识 register_buffer 与 register_parameter用法分析
guoqingru0311的博客
10-09 848
深度学习基础知识 register_buffer 与 register_parameter用法分析
Hex-Register
03-12
此外，JavaScript的`Buffer`对象在Node.js环境中提供了对二进制数据的强大支持，包括十六进制与二进制之间的转换。 项目中的“Hex-Register-main”可能包含以下部分： 1. **核心逻辑**：主要的注册逻辑，可能包括...
tiny_tty_kernel_3.12.74
09-30
在tiny_tty模块中，你需要关注如何管理和同步这些缓冲区，比如使用`tty_buffer_create`创建缓冲区，以及`tty_insert_flip_string`和`tty_schedule_flip`来添加数据到缓冲区并触发更新。 在3.12.74内核版本下，tiny_...
ehlib_vcl_src_9_3.26
04-26
TPrinterPreview lets you to record printable data in buffer for following output them on screen and to printer. TPrinterPreview have all functions and properties as in TPrinter object. You can use ...
JavaNIO.zip_java nio_nio java
09-24
channel.register(selector, SelectionKey.OP_READ); ``` 4. **处理事件**：调用`selector.select()`等待事件，然后处理就绪的通道。 ```java Set<SelectionKey> keys = selector.selectedKeys(); for ...
深入理解Pytorch之register_buffer
qq_43391414的博客
10-31 1万+
文章目录使用特点疑点 本文很简短，因为这个很容易，特别是看过我之前pytorch深入理解系列的来说。 使用 import torch.nn as nn import torch class net(nn.Module): def __init__(self): super(net,self).__init__() self.register_buffer("a",torch.ones(2,3))#从此，self.a其实就是torch.ones(2,3)。 de
register_parameter和register_buffer 详解
@bangbang的博客
11-04 1338
在参考yolo系列代码或其他开源代码，经常看到和的使用，接下来将详细对他们进行介绍。
NTM中register_buffer的用法
phacpf123
05-26 327
register_buffer()函数解析
pytorch中的register_buffer
子燕若水的博客
08-22 1333
示例中，使用self.register_buffer(‘running_mean’, torch.zeros(num_features))向模块中添加了一个名为running_mean的缓冲区，它的初始值是一个全零的张量，维度为num_features。register_buffer(self, name, tensor)是一个PyTorch中的方法，它的作用是向模块（module）中添加一个持久的缓冲区（buffer）参数tensor是一个张量，表示缓冲区的初始值。通过这个名称，可以从模块中获取缓冲区。
register_buffer && nn.Parameter
芒果干的博客
02-27 650
本文的大部分例子来源于知乎在pytorch模型中保存模型参数的方式如下模型保存的是model.state_dict()返回对象，是一个OrderDict，他的key与value分别是模型需要保存的参数名字和值。下面介绍parameter和buffer的一些用法特点其中parameter可以被optimizer更新，我们在优化模型参数的时候，一般都会写SGD(model.parameters(), xxx)，此外parameter与buffer均可以在保存模型参数时被保存到OrderDict中。
self.register_buffer方法使用解析(pytorch)
weixin_38252409的博客
11-06 1161
self.register_buffer就是pytorch框架用来保存不更新参数的方法。
pytorch 中register_buffer（）
热门推荐
shuijinghua的博客
03-17 5万+
今天在看DSSINet代码的ssim.py时，遇到了一个用法 class NORMMSSSIM(torch.nn.Module): def __init__(self, sigma=1.0, levels=5, size_average=True, channel=1): super(NORMMSSSIM, self).__init__() se...
register_buffer的用法
05-31
self.register_buffer('my_buffer', torch.zeros(3, 4)) model = MyModel() print(model.my_buffer) ``` 运行结果： ``` tensor([[0., 0., 0., 0.], [0., 0., 0., 0.], [0., 0., 0., 0.]]) ``` 在这个例子中...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值