nn.module的self.register_buffer（）

嘻嘻嘻大帅哥

已于 2024-03-24 15:54:48 修改

阅读量293

点赞数 5

文章标签：人工智能 pytorch 目标检测

于 2024-03-24 15:34:14 首次发布

本文链接：https://blog.csdn.net/m0_67619101/article/details/136988810

版权

本文介绍了如何在PyTorch的nn.module中使用`self.register_buffer`方法创建一个名为voxel_size的缓冲区，专门用于存储不进行梯度计算的数据，通过`self.voxel_size`访问该缓冲区。

摘要由CSDN通过智能技术生成

self.register_buffer(       
    'voxel_size',
    torch.Tensor([row[2] for row in [x_bound, y_bound, z_bound]]))

# nn.module中的一个方法，用于开辟一个缓冲区，命名为voxel_size，pytorch缓冲区常用于储存不需要梯度计算的数据

访问时用self.voxel_size即可：

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

嘻嘻嘻大帅哥

关注关注

5
点赞
踩
10

收藏

觉得还不错? 一键收藏
0
评论
nn.module的self.register_buffer（）

nn.module中的一个方法，用于开辟一个缓冲区，命名为voxel_size，pytorch缓冲区常用于储存不需要梯度计算的数据。
复制链接

扫一扫

java2d nn阶魔方_nn.Module介绍(一)_wulele2的博客-CSDN博客

weixin_28720767的博客

02-17

571

原文作者：武乐乐~原文标题：nn.Module介绍(一)发布时间：2021-01-11 21:40:04目录前言一、构造一个极简网络import torchimport torch.nn as nnfrom collections.abc import Iterable, Iteratorclass Net(nn.Module):def __init__(self):super(Net, self...

PyTorch学习—8.模型创建步骤与nn.Module属性

柳杰的博客

07-17

755

文章目录引言一、模型的创建1.nn.Module 引言这一节，我们开始讲解模型模块。一、模型的创建模型的构建有两个要素：下面我们以LeNet模型为例，展示其模型创建过程 class LeNet(nn.Module): # 初始化构建子模块 def __init__(self, classes): super(LeNet, self).__init__() self.conv1 = nn.Conv2d(3, 6, 5) self.c

参与评论您还未登录，请先登录后发表或查看评论

BEVDepth源码学习

WhynotLike2021的博客

07-21

1104

(Atrous Spatial Pyramid Pooling),空洞空间卷积池化金字塔,最后利用一个Conv2d(512, 112),得到depth输出,shape格式为(num_cameras, channels, H, W),具体为(6, 112, 16, 44)此方法主要涉及self.get_cam_feats(), self._forward_depth_net(), self.get_geometry()和voxel_pooling。

Pytorch中nn.Module中的self.register_buffer解释

丶夜未央丶的博客

06-08

7217

Pytorch中nn.Module中的self.register_buffer解释

pytorch nn.Module中的self.register_buffer()操作

weixin_43646592的博客

02-11

422

pytorch nn.Module中的self.register_buffer()操作

register_buffer && nn.Parameter

芒果干的博客

02-27

604

本文的大部分例子来源于知乎在pytorch模型中保存模型参数的方式如下模型保存的是model.state_dict()返回对象，是一个OrderDict，他的key与value分别是模型需要保存的参数名字和值。下面介绍parameter和buffer的一些用法特点其中parameter可以被optimizer更新，我们在优化模型参数的时候，一般都会写SGD(model.parameters(), xxx)，此外parameter与buffer均可以在保存模型参数时被保存到OrderDict中。

Pytorch：模型的保存与加载 torch.save()、torch.load()、torch.nn.Module.load_state_dict()

热门推荐

weixin_40522801的博客

06-05

20万+

Pytorch 保存和加载模型后缀：.pt 和.pth 1 torch.save()[source] 保存一个序列化（serialized）的目标到磁盘。函数使用了Python的pickle程序用于序列化。模型（models），张量（tensors）和文件夹（dictionaries）都是可以用这个函数保存的目标类型。 torch.save(obj, f, pickle_module=<module '...'>, pickle_protocol=2) 参数描述 o..

torch.nn.Module.parameters()和torch.nn.Module.state_dict()的使用举例

敲代码的小风

01-11

1399

链接: torch.nn.Module.parameters(recurse=True) 链接: torch.nn.Module.state_dict(destination=None, prefix=’’, keep_vars=False) 文档翻译: 在这里插入代码片文档翻译: 在这里插入代码片

Pytorch nn.Module源码解析

just

12-26

838

官网介绍：https://pytorch.org/docs/stable/generated/torch.nn.Module.html；，任何类都应该继承这个nn.Module类并且实现__init__和forward两个方法(forward方法基类中不实现)；Modules本身可以嵌套；

TensorFlow tf.nn.softmax_cross_entropy_with_logits的用法

01-20

在计算loss的时候，最常见的一句话就是tf.nn.softmax_cross_entropy_with_logits，那么它到底是怎么做的呢？首先明确一点，loss是代价值，也就是我们要最小化的值 tf.nn.softmax_cross_entropy_with_logits(logits,...

浅析PyTorch中nn.Module的使用

09-18

在PyTorch中，`nn.Module`是构建神经网络的核心组件。它是一个基类，用于定义自定义的神经网络模块，这些模块可以是简单的层（如卷积层、全连接层）或者是整个复杂的网络结构。`nn.Module`不仅包含网络的参数，还...

tensorflow中四种不同交叉熵函数tf.nn.softmax_cross_entropy_with_logits() -

08-03

本文将详细介绍TensorFlow中提供的四种不同类型的交叉熵函数`tf.nn.softmax_cross_entropy_with_logits()`。 1. **Sigmoid交叉熵**： `tf.nn.sigmoid_cross_entropy_with_logits(labels, logits, name=None)` 用于...

pytorch 中的重要模块化接口nn.Module的使用

09-17

### PyTorch中nn.Module模块详解 #### 一、引言 PyTorch是一个开源的机器学习库，它为Python提供了强大的工具来构建和训练深度学习模型。在PyTorch中，`torch.nn`模块是专门针对神经网络设计的模块化接口，其核心...

昇思25天学习打卡营第1天|快速入门

07-28

970

昇思大模型平台是一个集算法选型、创意分享、模型实验和大模型在线体验为一体的AI学习与实践社区，而且还内置了AI实验室，它覆盖多领域任务，体验全流程开发，支持用户在线训练和推理可视化，可创建自己的项目空间对待开发者很友好，提供云上开发环境，无需配置环境，既可灵活调试运行代码，每天免费使用8个小时。

和数集团十周年庆典：新起点、新目标、新征程

Likelib的博客

08-01

643

在十周年庆典这个特殊的日子，和数集团对在市场开拓、客户服务等方面具有突出表现的个人进行了表彰。

常用的机器学习模型的不同调用方式

最新发布

weixin_71458119的博客

08-01

351

不同机器学习方法的调用

MOE模式：或将是最好的大模型应用开发路径

AI相关从业分享

07-28

869

MOE（Mixture of Experts，混合专家）是一种机器学习模型架构，旨在通过结合多个专家网络来提高模型的性能和泛化能力。以下是传统模型和大模型中MOE模式的相关介绍及其优势。传统模型中的MOEGate网络：决定输入数据应该被路由到哪一个专家网络。Gate网络可以根据输入数据的特征来动态分配数据。Expert网络：一系列专门的网络，每个网络都是针对特定数据分布进行训练的。Expert网络可以是对特定问题有深入理解的小模型。组合层：将所有Expert网络的输出进行组合，形成最终的预测结果。

Transformer 架构告诉我们什么？

2401_85233349的博客

08-01

662

在传统的心理语言学方法中，人类语言是用可解释的模型来解释的，这些模型将符号元素（例如名词、动词、形容词、副词等）与基于规则的操作相结合。从几何上讲，它们之间的夹角越小，余弦值和点积就越大，并且这两个词在特定上下文中的相关性就越高，就像在高维空间中表示的那样。，Transformer 作为过度参数化的简单模型所展现出的蛮力学习，与进化过程类似，都是“简单而简约的”。下面是一个简单的示例，展示了词向量的基本概念。有趣的是，A 和 B 的相关系数也是角度的余弦（见上文 (2) 和 (3) 的公式）。

class Attention(nn.Module): def __init__(self, dim, num_ttokens, num_heads=8, qkv_bias=False, qk_scale=None, attn_drop=0., proj_drop=0., with_qkv=True): super().__init__() self.num_heads = num_heads head_dim = dim // num_heads self.scale = qk_scale or head_dim ** -0.5 self.with_qkv = with_qkv if self.with_qkv: self.qkv = nn.Linear(dim, dim * 3, bias=qkv_bias) self.proj = nn.Linear(dim, dim) self.proj_drop = nn.Dropout(proj_drop) self.attn_drop = nn.Dropout(attn_drop) ## relative position bias self.num_ttokens = num_ttokens self.relative_position_bias_table = nn.Parameter(torch.zeros(2 * num_ttokens - 1, num_heads)) trunc_normal_(self.relative_position_bias_table, std=.02) coords = torch.arange(num_ttokens) relative_coords = coords[:, None] - coords[None, :] relative_coords += num_ttokens - 1 relative_coords = relative_coords.view(-1) self.register_buffer("relative_coords", relative_coords)

05-18

具体来说，通过计算每个位置之间的相对距离，得到一个相对位置编码矩阵，然后将其转化为一个参数relative_position_bias_table，并通过注册buffer的方式保存在模块中。在计算注意力分数时，将查询向量和键向量的相对...