问题
RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: [torch.cuda.FloatTensor [4]] is at version 1; expected version 0 instead
分析
nn.relu(True) # 这个引起的问题
原来的变量被替换掉了,所以梯度回传的时候 找不到之前的变量了
解决办法
nn.relu(False) 把inplace 设置为False 即可
inplace 的作用是替换掉之前的变量,作用:节省内存,不需要保留之前的变量了,只需要对原来的变量进行覆盖就行了