self.hparams = hparams 报错 基于pytroch-lightning的T5模型微调出先的问题

15 篇文章 0 订阅

self.hparams = hparams, 使用基于pytroch-lightning的T5模型微调出先的问题

1.运行代码:

运行的代码

class T5FineTuner(pl.LightningModule, nn.Module):
    def __init__(self, hparams):  # 传入的args
        super(T5FineTuner, self).__init__()
        self.hparams = hparams  ### 报错行
        self.model = T5ForConditionalGeneration.from_pretrained(hparams.model_name_or_path)  # 调用的是预训练的模型
        self.tokenizer = T5Tokenizer.from_pretrained(hparams.model_name_or_path)
2.报错的信息:AttributeError: can't set attribute
Traceback (most recent call last):
  File "/home/wjg/workspace/Generative-ABSA-main/TestMain02.py", line 295, in <module>
    model = T5FineTuner(args)  # 得到模型
  File "/home/wjg/workspace/Generative-ABSA-main/TestMain02.py", line 93, in __init__
    self.hparams = hparams
  File "/home/wjg/anaconda3/envs/GenABSA/lib/python3.8/site-packages/torch/nn/modules/module.py", line 1233, in __setattr__
    object.__setattr__(self, name, value)
AttributeError: can't set attribute
3.出错原因: 是因为使用代码self.hparams = hparams, 后来查了一下发现是版本问题
 self.hparams = hparams
4.解决方法:

self.save_hyperparameters(hparams)

代替原来的

self.hparams = hparams

注意:由于版本问题self.save_hyperparameters(hparams) 等价于self.hparams = hparams 这一行相当于给self.hparams参数赋值
具体如下:(将原来的self.hparams = hparams代码注释)

class T5FineTuner(pl.LightningModule, nn.Module):
    def __init__(self, hparams):  # 传入的args
        super(T5FineTuner, self).__init__()
        # self.hparams = hparams
        self.save_hyperparameters(hparams)  # 等价于上面一行  这一行相当于给self.hparams参数赋值
        print(self.hparams)   #### 测试 可以不写
        self.model = T5ForConditionalGeneration.from_pretrained(hparams.model_name_or_path)  # 调用的是预训练的模型
        self.tokenizer = T5Tokenizer.from_pretrained(hparams.model_name_or_path)

代码: print(self.hparams) 的执行结果, 例如获取train_batch_size 超参数依然可以用 self.hparmas.train_batch_size

在这里插入图片描述
注意: 这样设置后获取参数的时候依然用self.hparams获取参数

  • 10
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 10
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值