最近使用python的过程当中发现一个坑,就是python的浮点数计算会有误差。比如打开ipython的时候,输入,0.7 + 0.2 = 0.8999999,而不是0.9. 查了一下资料,说是可以用Decimal模块来计算。
python 浮点数计算误差
最新推荐文章于 2023-07-27 14:11:02 发布
最近使用python的过程当中发现一个坑,就是python的浮点数计算会有误差。比如打开ipython的时候,输入,0.7 + 0.2 = 0.8999999,而不是0.9. 查了一下资料,说是可以用Decimal模块来计算。