例如torch.nn.ReLU(inplace=True)
inplace=True表示进行原地操作,对上一层传递下来的tensor直接进行修改,如x=x+3;
inplace=False表示新建一个变量存储操作结果,如y=x+3,x=y;
inplace=True可以节省运算内存,不用多存储变量。
对PyTorch中inplace字段的理解
最新推荐文章于 2023-07-08 19:57:46 发布
例如torch.nn.ReLU(inplace=True)
inplace=True表示进行原地操作,对上一层传递下来的tensor直接进行修改,如x=x+3;
inplace=False表示新建一个变量存储操作结果,如y=x+3,x=y;
inplace=True可以节省运算内存,不用多存储变量。