pytorch可以给我们提供两种方式来
切换训练和评估(推断)的模式。分别是:
model.train()和model.eval()
dropout在训练的时候起作用,
在推断的时候被绕过不起作用,
或者等价地,将其概率置为零。
batch normalization 也和dropout一样,
有两种模式,分别对应训练和推断,分别是:
model.eval()和model.train().
以下是原文截图:
dropout:
batch normalization:
PyTorch官方API截图:
train(mode=True):
eval():