如torch.mean(tensor).expand(batchsize),在network中操作的话,若有4张显卡,则返回到train函数中的size就变成了16。应在train函数进行torch.mean(tensor).expand(batchsize)操作。
PyTorch训练模型 nn.DataParallel后若在网络中进行某些扩展的操作则最后输出就会乘以显卡数量,应在训练函数中进行扩展操作。
于 2024-01-08 17:49:18 首次发布
如torch.mean(tensor).expand(batchsize),在network中操作的话,若有4张显卡,则返回到train函数中的size就变成了16。应在train函数进行torch.mean(tensor).expand(batchsize)操作。