【Pytorch参数初始化】pytorch模型参数默认初始化init问题

最新推荐文章于 2023-11-09 10:24:15 发布
最新推荐文章于 2023-11-09 10:24:15 发布
阅读量1.5k 收藏 4
点赞数 11
分类专栏： 机器学习 文章标签： 神经网络 python tensorflow 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/QinZheng7575/article/details/106753988
版权

按照书上操作来初始化模型参数时遇到了问题

在这里插入图片描述
书上写的挺好，但是实际中就会出问题：
object is not subscriptable在这里插入图片描述

解决方案其实很简单

出错的根本原因是，net这个对象没有可以用下标表示的元素
我们首先print一下这个net有啥：
在这里插入图片描述
这是一个线性的神经网络，两个输入一个输出
所以我们只要把出错的那一行改成：

init.normal_(net.linear.weight, mean=0, std=0.01)

就ok啦

QinZheng7575
关注
  • 11
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
pytorch系列 -- 9 pytorch nn.init 中实现的初始化函数 uniform, normal, const, Xavier, He initialization
墨流觞的博客
11-11 6万+
本文内容： 1. Xavier 初始化 2. nn.init 中各种初始化函数 3. He 初始化 torch.init https://pytorch.org/docs/stable/nn.html#torch-nn-init 1. 均匀分布 torch.nn.init.uniform_(tensor, a=0, b=1) 服从~U(a,b)U(a, b)U(a,b) 2. 正太分布 tor...
python PyTorch参数初始化和Finetune
09-20
在深度学习框架PyTorch中，参数初始化和Finetune是两个重要的概念，它们对于模型的训练效果有着显著的影响。本文将深入探讨这两个主题，并提供一些实用的代码示例。 参数初始化是神经网络模型训练的第一步，其目的...
pytorch-parameter initialization
ENJOY-NOW
05-29 5249
torch.nn.initweight.data.fill_(1)bias.data.fill_(0)weight.data.uniform_(-stdv, stdv)1. params = list(net.parameters())2. conv2params = list(net.conv2.parameters())kernels  conv2params[0]bias conv2para...
pytorch 对加载好的模型重新进行初始化
GeneralJing的专栏
01-08 1582
在验证小模型从头训练的效果时，需要把已有的权重重新进行初始化，发现了一个封装好的功能脚本，感谢大佬。 #!/usr/bin/env python # -*- coding:UTF-8 -*- import torch import torch.nn as nn import torch.nn.init as init def weight_init(m): ''' Usage: model = Model() model.apply(weight_i
解决pyhton object is not subscriptable
最新发布
牛肉胡辣汤
11-09 6080
在Python编程中，使用下标操作符​​[]​​来访问对象的属性或元素是很常见的。当遇到"object is not subscriptable"的错误时，你可以按照上述的解决方案来检查并修复问题，包括检查对象的类型、确保自定义类实现了​​方法以及正确访问对象的属性。希望本篇文章能帮助你理解并解决"object is not subscriptable"错误，提高你的Python编程技能。​​方法定义在类中，并且接受一个参数，用于指定要访问的下标或键。根据下标或键的不同，​​方法可以有不同的实现。
object is not subscriptable‘ 在python中遇到这种错误
weixin_48759773的博客
08-05 1222
# 错误演示：item 和 spider 参数位置错误： def process_item(self, spider,item,): self.cursor = self.connect.cursor() # 正确演示： def process_item(self, item, spider): self.cursor = self.connect.cursor() 这个错误排了一个多小时，其中还有一些粗心的小错误。还是要仔细啊！ ...
Pytorch 实现权重初始化
09-18
初始化神经网络参数通常在模型的 `__init__()` 函数中进行。例如，对于卷积层 `nn.Conv2d`，可以使用 `nn.init.normal_()` 或 `nn.init.xavier_uniform_()` 对其权重和偏置进行初始化。对于批量归一化层 `nn....
python PyTorch参数初始化和Finetune.pdf
04-17
总的来说，理解和掌握参数初始化和微调策略对于在PyTorch中优化模型性能至关重要。通过正确地初始化权重和灵活地微调模型，可以有效地利用预训练模型的知识，并在新的任务中获得更好的性能。同时，参与社区论坛，如...
pytorch网络参数 weight bias 初始化详解
01-19
权重初始化对于训练神经网络至关重要，好的初始化权重可以有效的避免梯度消失等问题的发生。 在pytorch的使用过程中有几种权重初始化的方法供大家参考。 注意：第一种方法不推荐。尽量使用后两种方法。 # not ...
Python提示object is not subscriptable的错误
热门推荐
tanglinjie的CSDN博客
08-23 40万+
subscriptable的意思是 可有下标的 意思 错误的原因就是把不具有下标操作的对象用成了对象[i]，比如int对象变量[i]就会报错。仔细检查错误行。
object is not subscriptable
Pika_T的博客
03-29 2万+
object is not subscriptable的问题所在 TypeError: 'builtin_function_or_method' object is not subscriptable 问题翻译过来就是：代码中有函数或方法对象是不可有下标的（但写成了有下标的） 错误的原代码如下： s=f.readlines() for row in s: oneRow=row.split('\t') data.append[list(oneRow)] 错误点便是append是一种方法/函
Python错误 TypeError: ‘NoneType‘ object is not subscriptable解决方案汇总
艰难困苦，玉汝于成。
03-10 7万+
这个错误通常发生在你试图访问一个类型为'NoneType'的对象的元素或者属性时。在Python中，'NoneType'是一种特殊类型，表示值的缺失或空值。
Pytorch出现‘Tensor‘ object is not callable解决办法
CSDN 精品推荐
02-15 9497
出现该现象原因可能是因为调取张量的属性，而写成了函数形式，把括号去掉
【torch.nn.init】初始化参数方法解读
zyw2002的博客
12-04 3235
格式作用从均匀分布U(a,b)U(a,b)U(a,b)中生成值，填充输入的张量或变量。参数例子 正态分布 格式作用从给定均值和标准差的正态分布N(mean,std)N(mean,std)N(mean,std)中生成值，填充输入的张量或变量。参数 常数分布 格式作用用的值填充输入的张量或变量参数 全1分布 格式作用用全0填充张量参数例子 全0分布 格式作用用全1填充张量参数例子 对角分布 格式作用用单位矩阵来填充2维输入张量或变量参数 dirac 分布 格式作用用Dirac δ函数来填
TypeError: 'function' object is not subscriptable
weixin_38859557的博客
07-01 4万+
在tensorflow中使用零矩阵初始化变量的时候出现的：b = tf.Variable(tf.zeros[1])这是由于tf.zeros是一个函数，应该有括号，所以应该改为tf.zeros([1])像这种问题TypeError: 'function' object is not subscriptable一般都是由于函数没加括号导致的；...
torch.init.normal_和torch.init.constant_的用法
张齐贤的博客
11-15 1371
init.normal_(self.proj_parse[0].weight, std=0.01) #给tensor初始化，一般是给网络中参数weight初始化，初始化参数值符合正态分布 init.normal_(self.proj_parse[1].weight, std=0.01) init.constant_(self.proj_parse[0].bias, 0) init.constant_(self.proj_parse[1].bias, 0)
pytorch 模型不在类的 __init__()函数中定义，且该函数中无可学习的参数
nlite827109223的博客
12-11 1228
如这种形式，反卷积方法在conv1d_transpose中定义，在训练的时候，model.parameters()会为空，在__init__()中加一部分带参数的方法即可； 报的错为：raise ValueError("optimizer got an empty parameter list") ValueError: optimizer got an empty parameter l...
pytorch模型参数初始化
03-24
PyTorch模型参数初始化可以使用torch.nn.init模块中的函数来完成。常用的函数有：torch.nn.init.xavier_uniform_、torch.nn.init.kaiming_uniform_、torch.nn.init.normal_等。这些函数可以根据不同的初始化方法来...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值