完整报错:
RuntimeError: Input type (torch.FloatTensor) and weight type (torch.cuda.FloatTensor) should be the same or input should be a MKLDNN tensor and weight is a dense tensor
报错内容:
报错提示输入数据的类型(torch.FloatTensor)
与模型权重的类型不匹配。这里权重类型为torch.cuda.FloatTensor
,表明它们被存储在GPU上。报错提示可能表明你尝试在一个期望使用GPU的模型上运行仅在CPU上的FloatTensor
数据。
解决方法:
确保模型和输入数据类型都在GPU上运行。
#方法一
model= model.cuda()
inputs = inputs.cuda()
#方法二
device = torch.device('cuda:0')
model= model.to(device)
inputs = inputs.to(device)
根据部署在GPU上的方式不同,可以有以上不同的方式。