numpy浮点转整数的精度损失问题

最新推荐文章于 2024-01-03 00:27:45 发布

BeautyGao

最新推荐文章于 2024-01-03 00:27:45 发布

阅读量5.4k

点赞数

分类专栏： Python 文章标签：浮点数转整数 numpy

本文链接：https://blog.csdn.net/BeautyGao/article/details/81941262

版权

本文探讨了在numpy中浮点数转换为整数时可能出现的精度问题，导致预期结果与实际结果不符。例如，100.1在内部表示为100.09999999999999，转换为整数会变成0。为解决此问题，建议引入误差或使用条件判断来确保取整的准确性。

摘要由CSDN通过智能技术生成

在numpy数组使用时发现了浮点数转整数可能会产生错误的问题，目前采用引入误差方式解决。

1、问题代码：

e = 0
points = np.array([[100.10, 40.20],
                   [100.30, 40.60],
                   [100.20, 40.70]])
lons = points[:, 0] - 100.0 + e
lats = points[:, 1] - 40.0 + e

lons = (lons/0.1)
lats = (lats/0.1)

lons = lons.astype(int)
lats = lats.astype(int)
print lons
print lats

预期结果为：[1, 3, 2] [2, 6, 7] 实际结果为：[0, 2, 2] [2, 6, 7]

通过调试发现：100.10实际数据内容为100.09999999999999