Python decimal 模块解决浮点数计算不精确问题

python 中的 decimal 模块提供十进制浮点运算支持

a = 1.1
b = 2.2
print(a + b) 

结果竟然是:

输出不是期望的 3.3,这是由于原生的二进制浮点数本身存在误差,直接计算的话会得到不精确的结果。 为了消除这种误差,可以用 decimal 模块进行更加精确的浮点计算。

from decimal import Decimal
#参数这里是字符串
a = Decimal('1.1')
b = Decimal('2.2')
print(a + b) 

运算结果:

getcontext().prec 设置有效数字

from decimal import Decimal
from decimal import getcontext
#此处设置有效数字为6位
getcontext().prec = 6
print(Decimal('2.2')/Decimal('1.3'))

运行结果:

设定小数位数

Deicmal() 函数可以四舍五入设置保留的小数位,且不用管小数原来的形式

from decimal import Decimal
m='3.4'
n=4.5
#设置留5位小数
print(Decimal(m).quantize(Decimal('0.000000')))
print(Decimal(n).quantize(Decimal('0.000000')))

运行结果:

 

相关推荐
©️2020 CSDN 皮肤主题: 黑客帝国 设计师:白松林 返回首页