解决监督学习,深度学习报错:AttributeError: ‘xxx‘ object has no attribute ‘module‘!!!!

作者分享了解决在服务器上使用nn.DataParallel或DistributedDataParallel时遇到的AttributeError问题,原因在于代码环境差异和模型封装。解决方案包括避免`.module`使用和适配模型并行技术的代码调整。
摘要由CSDN通过智能技术生成

哈喽小伙伴们大家好呀,很长时间没有更新啦,最近在研究一个问题,就是AttributeError: 'xxx' object has no attribute 'module'

今天终于是解决了,所以来记录分享一下:

我这里出现的问题是:

因为我的数据比较大,所以我在服务器上运行程序,但是我在本机上调通了,到服务器上面就出现这个错误,也是因为我对项目进行了更改,我更改了一个完整的网络

下面我就来说一下出现这个问题的原因:

        程序中使用了nn.DataParallel,但是PyTorch 中使用 nn.DataParallelnn.parallel.DistributedDataParallel 这样的模型并行技术会导致这个问题,因为它们会将模型包装在另一个模块中,而代码可能在不同的环境下运行

我的修改包括两部分内:

针对代码中, AL_module 是一个模型,直接使用 AL_module 来进行前向传播,无需使用 .module

# 在 train 函数中,将下面这行代码修改:
logits, state = AL_module(net.module.al_input, lab_mask)
# 改为:
logits, state = AL_module(net.al_input, lab_mask)

还有一个原因是:
这种情况通常出现在使用模型并行技术(如 nn.DataParallelnn.parallel.DistributedDataParallel)时,这些技术会在模型外部包装一个额外的模块,从而导致属性访问时出现差异

 

  • 2
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

今天不想Debug

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值