.requires_grad_（True）

PyTorch中的.requires_grad_（True）方法用于就地修改张量的requires_grad属性。此属性指示PyTorch是否应在反向传播过程中计算与此张量有关的梯度。设置为True时，它会“告诉”PyTorch您希望它跟踪在该张量上执行的所有操作，以便它可以在反向传播期间自动计算梯度。这对于训练神经网络至关重要，其中这些梯度用于更新权重。

以下是如何以及为什么使用requires_grad_（）的简要概述：

用法

初始化训练权重：在为要优化的神经网络定义权重时，将requires_grad设置为True，以便计算梯度，从而允许优化器调整权重。

冻结参数：在某些情况下，例如微调预先训练的模型，您可能需要冻结某些层，以便它们在训练过程中不会更新。对于要训练的层，应确保其权重requires_grad设置为True。

内存效率：对于模型中不需要梯度计算的部分，将requires_grad设置为False可以提高模型的内存效率，因为PyTorch不会存储对这些张量执行的操作。