AttributeError NoneType object has no attribute data
我在自己模型中加注意力的时候出现的这个问题,上网查询这个问题,大部分回答都是模型中定义的某个层没有参与到前向传播,所以反向传播,计算loss时,grad is None。主要是要找到未参与计算的层,并注释掉。 因为我只加了一个注意力,所以把注意力里面的所有参数requires_grad都置为False。具体操作如下:
AttributeError NoneType object has no attribute data
AttributeError NoneType object has no attribute data我在自己模型中加注意力的时候出现的这个问题,上网查询这个问题,大部分回答都是模型中定义的某个层没有参与到前向传播,所以反向传播,计算loss时,grad is None。主要是要找到未参与计算的层,并注释掉。因为我只加了一个注意力,所以把注意力里面的所有参数requires_grad都置为False。具体操作如下:...