PyTorch中nn.ReLU(inplace=True)中inplace的作用

我们用PyTorch搭建神经网络时，会遇到nn.ReLU(inplace=True),inplace=True是什么意思呢？

nn.Conv2d(64,192,kernel_size=3,stride=1,padding=1), 
nn.ReLu(inpalce=True),# inplace为True，默认为False

意思是：是否将计算得到的值直接覆盖之前的值

例如：x = x+1
即对原值x进行+1操作后得到的值，直接赋值给x
而不是如下找一个中间变量y：

y=x+1
x=y

先将x进行+1操作后赋值给中间变量y，然后将y值赋给x
这样就需要内存存储变量y
因此当inplace=True时：
就是对从上层网络nn.Conv2d中传递下来的tensor直接进行修改，这样能够节省运算内存，不用多存储其他变量。