python数据精度_Python浮点数精度问题(包含解决方案)

前面章节提到,Python 中浮点类型之间的运算,其结果并不像我们想象的那样,例如:

>>> 0.1+0.2

0.30000000000000004

>>> 0.1+0.1-0.2

0.0

>>> 0.1+0.1+0.1-0.3

5.551115123125783e-17

>>> 0.1+0.1+0.1-0.2

0.10000000000000003

为什么在计算这么简单的问题上,计算机会出现这样的低级错误呢?真正的原因在于十进制和数和二进制数的转换。

我们知道,计算机其实是不认识十进制数,它只认识二进制数,也就是说,当我们以十进制数进行运算的时候,计算机需要将各个十进制数转换成二进制数,然后进行二进制间的计算。

以类似 0.1 这样的浮点数为例,如果手动将其转换成二进制,其结果为:

0.1(10)=0.00011001100110011...(2)

可以看到,结果是无限循环的,也就是说,0.1 转换成二进制数后,无法精确到等于十进制数的 0.1。同时,由于计算机存储的位数是有限制的,所以如果要存储的二进制位数超过了计算机存储位数的最大值,其后续位数会被舍弃(舍弃的原则是“0 舍 1 入”)。

这种问题不仅在 Python 中存在,在所有支持浮点数运算的编程语言中都会遇到,它不光是 Python 的 Bug。

明白了问题产生的原因之后,那么该如何解决呢?就 Python 的浮点数运算而言,大多数计算机每次计算误差不会超过 253,这对于大多数任务来说已经足够了。

如果需要非常精确的结果,可以使用 decimal 模块(其实就是别人开发好的程序,我们可以直接拿来用),它实现的十进制数运算适合会计方面的应用和有高精度要求的应用。例如:

#使用模块前,需要使用 import 引入

import decimal

a = decimal.Decimal("10.0")

b = decimal.Decimal("3")

print(10.0/3)

print(a/b)

运行结果为:

3.3333333333333335

3.333333333333333333333333333

可以看到,相比普通运算的结果,使用 decimal 模块得到的结果更精确。

如果 decimal 模块还是无法满足需求,还可以使用 fractions 模块,例如:

#引入 decimal 模块

from fractions import Fraction

print(10/3)

print(Fraction(10,3))

运行结果为:

3.3333333333333335

10/3

可以看到,通过 fractions 模块能很好地解决浮点类型数之间运算的问题。

本节涉及到了有关模块的使用,读者不用研究细节,会用即可,后续章节会详细介绍模块。

  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值