【Pytorch参数初始化】pytorch模型参数默认初始化init问题

最新推荐文章于 2023-11-09 10:24:15 发布
最新推荐文章于 2023-11-09 10:24:15 发布
阅读量1.6k 收藏 5
点赞数 11
分类专栏： 机器学习 文章标签： 神经网络 python tensorflow 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/QinZheng7575/article/details/106753988
版权

按照书上操作来初始化模型参数时遇到了问题

在这里插入图片描述
书上写的挺好，但是实际中就会出问题：
object is not subscriptable在这里插入图片描述

解决方案其实很简单

出错的根本原因是，net这个对象没有可以用下标表示的元素
我们首先print一下这个net有啥：
在这里插入图片描述
这是一个线性的神经网络，两个输入一个输出
所以我们只要把出错的那一行改成：

init.normal_(net.linear.weight, mean=0, std=0.01)

就ok啦

QinZheng7575
关注
专栏目录
pytorch参数初始化方法
qq_40379132的博客
07-14 1万+
N(mean,std)\mathcal{N}(mean,std)N(mean,std)中生成值，填充输入的张量或变量。用Diracδ\deltaδ函数来填充{3,4,5}维输入张量或变量。U(a,b)\mathcal{U}(a,b)U(a,b)中生成值，填充输入的张量或变量。从给定均值和标准差的正态分布N(mean,std)中生成值，填充输入的张量或变量。在线性层尽可能多的保存输入特性。从均匀分布U(a,b)中生成值，填充输入的张量或变量。......
pytorch系列 -- 9 pytorch nn.init 中实现的初始化函数 uniform, normal, const, Xavier, He initialization
墨流觞的博客
11-11 6万+
本文内容： 1. Xavier 初始化 2. nn.init 中各种初始化函数 3. He 初始化 torch.init https://pytorch.org/docs/stable/nn.html#torch-nn-init 1. 均匀分布 torch.nn.init.uniform_(tensor, a=0, b=1) 服从~U(a,b)U(a, b)U(a,b) 2. 正太分布 tor...
pytorch-parameter initialization
ENJOY-NOW
05-29 5311
torch.nn.initweight.data.fill_(1)bias.data.fill_(0)weight.data.uniform_(-stdv, stdv)1. params = list(net.parameters())2. conv2params = list(net.conv2.parameters())kernels  conv2params[0]bias conv2para...
pytorch 对加载好的模型重新进行初始化
GeneralJing的专栏
01-08 1679
在验证小模型从头训练的效果时，需要把已有的权重重新进行初始化，发现了一个封装好的功能脚本，感谢大佬。 #!/usr/bin/env python # -*- coding:UTF-8 -*- import torch import torch.nn as nn import torch.nn.init as init def weight_init(m): ''' Usage: model = Model() model.apply(weight_i
解决pyhton object is not subscriptable
最新发布
牛肉胡辣汤
11-09 7691
在Python编程中，使用下标操作符​​[]​​来访问对象的属性或元素是很常见的。当遇到"object is not subscriptable"的错误时，你可以按照上述的解决方案来检查并修复问题，包括检查对象的类型、确保自定义类实现了​​方法以及正确访问对象的属性。希望本篇文章能帮助你理解并解决"object is not subscriptable"错误，提高你的Python编程技能。​​方法定义在类中，并且接受一个参数，用于指定要访问的下标或键。根据下标或键的不同，​​方法可以有不同的实现。
object is not subscriptable‘ 在python中遇到这种错误
weixin_48759773的博客
08-05 1282
# 错误演示：item 和 spider 参数位置错误： def process_item(self, spider,item,): self.cursor = self.connect.cursor() # 正确演示： def process_item(self, item, spider): self.cursor = self.connect.cursor() 这个错误排了一个多小时，其中还有一些粗心的小错误。还是要仔细啊！ ...
python PyTorch参数初始化和Finetune
09-20
在深度学习框架PyTorch中，参数初始化和Finetune是两个重要的概念，它们对于模型的训练效果有着显著的影响。本文将深入探讨这两个主题，并提供一些实用的代码示例。 参数初始化是神经网络模型训练的第一步，其目的...
pytorch默认初始化_Pytorch参数初始化--默认与自定义
weixin_39580950的博客
12-22 2353
1. Pytorch module默认初始化Pytorch 的Module都只带默认的初始化方法，而且初始化会调用此函数，因此我们定义好后，不用手动初始化。Convclass _ConvNd(Module):__constants__ = ['stride', 'padding', 'dilation', 'groups', 'bias','padding_mode', 'output_paddi...
Pytorch 实现权重初始化
09-18
初始化神经网络参数通常在模型的 `__init__()` 函数中进行。例如，对于卷积层 `nn.Conv2d`，可以使用 `nn.init.normal_()` 或 `nn.init.xavier_uniform_()` 对其权重和偏置进行初始化。对于批量归一化层 `nn....
Python提示object is not subscriptable的错误
热门推荐
tanglinjie的CSDN博客
08-23 40万+
subscriptable的意思是 可有下标的 意思 错误的原因就是把不具有下标操作的对象用成了对象[i]，比如int对象变量[i]就会报错。仔细检查错误行。
object is not subscriptable
Pika_T的博客
03-29 2万+
object is not subscriptable的问题所在 TypeError: 'builtin_function_or_method' object is not subscriptable 问题翻译过来就是：代码中有函数或方法对象是不可有下标的（但写成了有下标的） 错误的原代码如下： s=f.readlines() for row in s: oneRow=row.split('\t') data.append[list(oneRow)] 错误点便是append是一种方法/函
Pytorch出现‘Tensor‘ object is not callable解决办法
CSDN 精品推荐
02-15 9856
出现该现象原因可能是因为调取张量的属性，而写成了函数形式，把括号去掉
TypeError: 'function' object is not subscriptable
weixin_38859557的博客
07-01 4万+
在tensorflow中使用零矩阵初始化变量的时候出现的：b = tf.Variable(tf.zeros[1])这是由于tf.zeros是一个函数，应该有括号，所以应该改为tf.zeros([1])像这种问题TypeError: 'function' object is not subscriptable一般都是由于函数没加括号导致的；...
pychram+python 看源码： 按住crtl，点击函数
SKY_yiyi_9的博客
08-09 515
pychram+python 看源码 打开pychram , 按住crtl ,用鼠标点击你想要的函数，pycharm会自动打开所选的函数的源码。 结合crtl+F快捷键，键入搜索目标关键字，能帮助你更快找到目标。 这里，看到了Pytorch 的Module都只带默认的初始化方法，而且初始化会调用此函数，因此我们定义好后，不用手动初始化。 在__init__中最后一行调用函数reset_parameters进行参数初始化，卷积函数都继承了_ConvNd，因此所有卷积module都自动初始化。 nn.conv
Pytorch网络参数初始化
@Elaine
02-19 1808
Pytorch网络参数初始化@Elaine 神经网络的初始化是训练流程的重要基础环节，会对模型的性能、收敛性、收敛速度等产生重要影响。 Pytorch中常见的两种初始化操作 (1)使用pytorch内置的 torch.nn.init 方法 正态分布、均匀分布、xavier初始化、kaiming初始化都已经实现，可以直接使用。具体详见PyTorch 中 torch.nn.init 中文文档。 init.xavier_uniform(net1[0].weight) (2) Numpy 对于自定义的初始化方法，
pytorch 获取模型参数_[PyTorch]PyTorch中模型的参数初始化的几种方法（转）
weixin_39717121的博客
12-21 200
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~转载请注明出处：参考网址：说明：暂时就这么多吧，错误之处请见谅。前两个初始化的方法见pytorch官方文档1. xavier初始化torch.nn.init.xavier_uniform(tensor, gain=1)对于输入的tensor或者变量，通过论文Understanding the difficulty of t...
Pytorch如何自定义参数初始化方法
开飞机的小毛驴儿
12-14 2839
转载自：https://blog.csdn.net/dss_dssssd/article/details/83990511，本文只做个人记录学习使用，版权归原作者所有。 1.单层网络 在创建model后直接调用torch.nn.innit里的初始化函数 layer1=torch.nn.Linear(10,20) torch.nn.init.xavier_uniform_(layer.wei...
pytorch模型参数初始化
03-24
PyTorch模型参数初始化可以使用torch.nn.init模块中的函数来完成。常用的函数有：torch.nn.init.xavier_uniform_、torch.nn.init.kaiming_uniform_、torch.nn.init.normal_等。这些函数可以根据不同的初始化方法来...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值