python精确计算
在python中浮点数计算是不精确的的,这是因为小数以二进制形式表示时的有穷性导致的。想要精确计算浮点数,需要调用decimal这个模块,decimal是十进制类型
decimal.Decimal(x) #x可以是一个整数或字符串,但不能是浮点数
import decimal
a = decimal.Decimal(9876)
b = decimal.Deciaml(“54321.01234567898754321”)
a + b
Decimal(‘64197.012345678987654321’)
decimal.Deciaml.from_float(x); #x可以是一个浮点数
Deciaml.from_float(0.1)
Decimal(‘0.1000000000000000055511151231257827021181583404541015625’)Decimal.from_float(float(‘nan’));
Decimal(‘NaN’)Decimal.from_float(float(’-inf’));
Decimal(’-Infinity’)
Python 中的 float 类型使用C语言的 double 类型进行存储。 float 对象的值是以固定的精度(通常为 53 位)存储的二进制浮点数,由于 Python 使用 C 操作,而后者依赖于处理器中的硬件实现来执行浮点运算。 这意味着就浮点运算而言,Python 的行为类似于许多流行的语言,包括 C 和 Java。
许多可以轻松地用十进制表示的数字不能用二进制浮点表示。例如,之后:
x = 1.2
为 x 存储的值是与十进制的值 1.2 (非常接近) 的近似值,但不完全等于它。 在典型的机器上,实际存储的值是:
1.0011001100110011001100110011001100110011001100110011 (binary)
确切地说:
1.1999999999999999555910790149937383830547332763671875 (decimal)
典型的 53 位精度为 Python 浮点数提供了 15-16 位小数的精度。