python中float32与float64强转偏差

torch

pytorch中定义张量，要确定好正确的数据类型，否则会出现float32-float64之间的强转偏差，虽然误差很小，但是在某些场合（模型推理、imu预积分等）会出现比较大的累计误差。pytorch定义张量，默认的数据类型为torch.float32.

g1 = torch.tensor([9.8065000000])		# 默认torch.float32
print(format(g1.item(), '.10f'))
# 9.8065004349

g2 = torch.tensor([9.8065000000], dtype=torch.float64)
print(format(g2.item(), '.10f'))
# 9.8065000000

numpy

同理，在numpy中也容易出现这样的情况。numpy定义数组，默认是numpy.float64。

g3 = np.array([9.8065000000])		# 默认np.float64
print(format(g3.item(), '.10f'))
# 9.8065000000

g4 = np.array([9.8065000000], dtype=np.float32)
print(format(g4.item(), '.10f'))
# 9.8065004349