pytorch报错Unable to get repr for
标签出现了-1,2或者其他值,loss计算之后,
报错:CUDA error: device-side assert triggered
然后出现此错误:
Unable to get repr for class tensor
pytorch 在调试的时候,变量出现了Unable to get repr for <class ‘torch.Tensor’>
是自己数据格式的问题,具体原因后面在详细整理。
具体情景: 做roipooling的时候,rois的数据类型不对,出现了以上错误。
解决方法:采用torch.tensor([0, 2, 2, 10, 10]),就是采用了torch.tensor。前期有尝试torch.from_numpy, torch.FloatTensor(),虽然数据值都是一样的,但是就是报错。
具体代码如下:
temp = rois.numpy().tolist()
# rois = torch.FloatTensor([0] + [temp[0][1], temp[0][2], temp[0][3], temp[0][4]] )
rois = torch.tensor([0] + [temp[0][1], temp[0][2], temp[0][3], temp[0][4]])
pooled_feat = pooling(base_feat, rois.view(-1, 5))