python中浮点数和小数的区别_Python中的浮点数和小数

简介

float类型,即浮点数,是Python内置的对象类型;decimal类型,即小数类型,则是Python的标准库之一decimal提供的对象类型,也是内置的。了解decimal类型的最佳资料,就是它的官方文档:https://docs.python.org/3/library/decimal.html。

在浮点数运算中,总会有误差的,这一点在下面会显示出来。要解决浮点数运算的误差问题,decimal所创建的小数类型,则是一种比较好的选择。

float类型

用浮点数运算,好处是方便、而且速度快。浮点数会给出你所声明的数字的近似值。例如,如果输出的是带有18位小数的0.1,我实际上得到的不是0.1,而是一个近似值。

>>> print(f"{0.1:.18f}")

0.100000000000000006

类似地,在执行操作时,例如使用浮点数做加法,也会得到一个近似值。这个过程中的代码可能令人困惑,如下所示:

>>> .1 + .1 + .1 == .3

False

>>> .1 + .1 + .1

0.30000000000000004

直观地说,这个加法是有意义的,根据你的数学知识,肯定会认为上面第一个表达式应该返回True,然而,一定要注意,浮点数是你所创建数字的近似值——只不过有时候近似的程度很高,以至于没有差别。由于这个浮点数是近似值,导致返回值是False。这说明了浮点数存在一个大问题,即缺乏可靠的相等性测试。为了在不使用decimal类型的情况下修正这个等式检验,我们可以用四舍五入。

>>> round(.1 + .1 + .1, 10) == round(.3, 10)

True

>>> round(.1 + .1 + .1, 10)

0.3

在本例中,我们对浮点数进行了四舍五入,以防止出现任何精度问题。如果你经常在代码库中使用浮点数和四舍五入,就应该考虑是不是可以使用decimal类型了。

decimal类型

如果需要精确计算,比如财务计算,就必须使用decimal类型——小数类型。不过,你也要关注一下decimal类型的精度优势和float类型的性能优势,根据具体要求,做出恰当的选择。

如果把前面示例中的浮点数改为小数类型,看看效果如何:

>>> from decimal import Decimal

>>> print(f"{Decimal('0.1'):.18f}")

0.100000000000000000

>>> Decimal('.1') + Decimal('.1') + Decimal('.1') == Decimal('.3')

True

这里使用decimal类型,就可以防止浮点数带来的细微误差。如果注意观察,你会看到小数使用字符串进行实例化。如果不这样,比如下面的例子,在实例化时,如果使用Decimal(0.01)创建一个小数实例,就会导致浮点数精度问题。

>>> from decimal import Decimal

>>> Decimal(0.01) == Decimal("0.01")

False

在本例中,我们期望这些小数值相等,但由于浮点数的精度问题,这一小数相等测试返回False。看看每个小数,你就知道为什么了。

>>> Decimal(0.01)

Decimal('0.01000000000000000020816681711721685132943093776702880859375')

>>> Decimal("0.01")

Decimal('0.01')

以浮点数为参数建立的Decimal实例,在技术上不是0.01,这将导致相等测试为False。所有小数都应该使用字符串创建,以防止精度问题。否则,我们就会失去小数的精度优势,并产生微妙的错误。

总结

decimal类型,能够让计算更精确,虽然要损失点性能。这就看你需要什么了。如果强调防止浮点数精度问题带来的细微错误,使用小数利大于弊。一定要注意,创建实例的时候,参数要用字符串。

参考:https://www.laac.dev/blog/float-vs-decimal-python/

声明:

本站(www.100xue.net)部分图文转自网络,转载目的是为了传递更多有价值的信息。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值