python 小数的比对_Python中的浮点数和小数

简介

float类型，即浮点数，是Python内置的对象类型；decimal类型，即小数类型，则是Python的标准库之一decimal提供的对象类型，也是内置的。了解decimal类型的最佳资料，就是它的官方文档：https://docs.python.org/3/library/decimal.html。

在浮点数运算中，总会有误差的，这一点在下面会显示出来。要解决浮点数运算的误差问题，decimal所创建的小数类型，则是一种比较好的选择。

float类型

用浮点数运算，好处是方便、而且速度快。浮点数会给出你所声明的数字的近似值。例如，如果输出的是带有18位小数的0.1，我实际上得到的不是0.1，而是一个近似值。

>>> print(f"{0.1:.18f}")
0.100000000000000006

类似地，在执行操作时，例如使用浮点数做加法，也会得到一个近似值。这个过程中的代码可能令人困惑，如下所示：

>>> .1 + .1 + .1 == .3
False
>>> .1 + .1 + .1
0.30000000000000004

直观地说，这个加法是有意义的，根据你的数学知识，肯定会认为上面第一个表达式应该返回True，然而，一定要注意，浮点数是你所创建数字的近似值——只不过有时候近似的程度很高，以至于没有差别。由于这个浮点数是近似值，导致返回值是False。这说明了浮点数存在一个大问题，即缺乏可靠的相等性测试。为了在不使用decimal类型的情况下修正这个等式检验，我们可以用四舍五入。

>>> round(.1 + .1 + .1, 10) == round(.3, 10)
True
>>> round(.1 + .1 + .1, 10)
0.3

在本例中，我们对浮点数进行了四舍五入，以防止出现任何精度问题。如果你经常在代码库中使用浮点数和四舍五入，就应该考虑是不是可以使用decimal类型了。

decimal类型

如果需要精确计算，比如财务计算，就必须使用decimal类型——小数类型。不过，你也要关注一下decimal类型的精度优势和float类型的性能优势，根据具体要求，做出恰当的选择。

如果把前面示例中的浮点数改为小数类型，看看效果如何：

>>> from decimal import Decimal
>>> print(f"{Decimal('0.1'):.18f}")
0.100000000000000000
>>> Decimal('.1') + Decimal('.1') + Decimal('.1') == Decimal('.3')
True

这里使用decimal类型，就可以防止浮点数带来的细微误差。如果注意观察，你会看到小数使用字符串进行实例化。如果不这样，比如下面的例子，在实例化时，如果使用Decimal(0.01)创建一个小数实例，就会导致浮点数精度问题。

>>> from decimal import Decimal
>>> Decimal(0.01) == Decimal("0.01")
False

在本例中，我们期望这些小数值相等，但由于浮点数的精度问题，这一小数相等测试返回False。看看每个小数，你就知道为什么了。

>>> Decimal(0.01)
Decimal('0.01000000000000000020816681711721685132943093776702880859375')
>>> Decimal("0.01")
Decimal('0.01')

以浮点数为参数建立的Decimal实例，在技术上不是0.01，这将导致相等测试为False。所有小数都应该使用字符串创建，以防止精度问题。否则，我们就会失去小数的精度优势，并产生微妙的错误。

总结

decimal类型，能够让计算更精确，虽然要损失点性能。这就看你需要什么了。如果强调防止浮点数精度问题带来的细微错误，使用小数利大于弊。一定要注意，创建实例的时候，参数要用字符串。

参考：https://www.laac.dev/blog/float-vs-decimal-python/

---

欢迎关注微信公众号：老齐教室。