qq_45844431的博客

原创 model.train()&&model.eval()&&with torch.no_grad()用法

启用 Batch Normalization 和 Dropout如果模型中有BN层(Batch Normalization）和Dropout，需要在训练时添加model.train()。model.train()是保证BN层能够用到每一批数据的均值和方差。对于Dropout，model.train()是随机取一部分网络连接来训练更新参数。用法：注意model.train()的位置model.train()一定要是在epoch中并且在dataloader循环前的位置上2.model.eval不