Debug： one of the variables needed for gradient computation has been modified by an inplace operati

pytorch Debug记录

1. 问题描述
网络能计算出output，也能计算loss,但是在loss.backward()会报错：
RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation

 

 2. 解决办法
开始我以为是网络结构的问题，就一直找网络那里，后来发现是loss的问题（loss和网络都是继承于nn.Module），我在定义loss的时候有一段是out *= weight,改成out = out*weight就可以了，出现这个错的时候重点排查a +=b, a*=b之类的。

3.其他
参考https://blog.csdn.net/ncc1995/article/details/99542594

https://zhuanlan.zhihu.com/p/69294347