pytorch tensor和ndarray转换相关总结

在使用pytorch的时候，经常会涉及到两种数据格式tensor和ndarray之间的转换，这里总结一下两种格式的转换：

1. tensor cpu 和tensor gpu之间的转化：

• tensor cpu 转为tensor gpu：
  tensor_gpu = tensor_cpu.cuda()

>>> tensor_cpu = torch.ones((2,2))
tensor([[1., 1.],
        [1., 1.]])
>>> tensor_gpu = tensor_cpu.cuda()
tensor([[1., 1.],
        [1., 1.]], device='cuda:0')

• tensor gpu 转为tensor cpu：
  tensor_cpu = tensor_gpu.cuda()

>>> tensor_gpu.cpu()
tensor([[1., 1.],
        [1., 1.]])

2. tensor cpu 和 ndarray 之间的转化：

• tensor cpu 转为 ndarray：

>>> np_array= tensor_cpu.numpy()
array([[1., 1.],
       [1., 1.]], dtype=float32)

• ndarray 转为 tensor cpu：
  注：ndarray的默认精度为64位，Tensor的默认精度位32位，所以通过Tensor直接转换的话，精度会转换到32位，若通过from_numpy的方式，则会保留原来64位精度

>>> torch.from_numpy(np.ones((2,2)))
tensor([[1., 1.],
        [1., 1.]], dtype=torch.float64)
>>> torch.Tensor(np.ones((2,2)))
tensor([[1., 1.],
        [1., 1.]])

3. tensor cpu 和 scalar 之间的转化：

如果只是训练了一个简单的分类网络，对单个样本的输出会是一个标量（scalar）

>>>torch.ones((1,1)).item()
1.0

通过一张图说明三者的转化方式：