python中金额计算的小问题

由于二进制对浮点运算存在精度问题，所以一些浮点计算经常会出现以下情况：

1 # -*- coding: utf-8 -*-
2 
3 a = 1
4 b = 0.9
5 print(a-b)

结果：

0.09999999999999998

我们期望的结果应该是0.1。为了解决这个问题，可以引入python的decimal库：

1 # -*- coding: utf-8 -*-
2 
3 from decimal import getcontext, Decimal
4 
5 getcontext().prec = 10
6 a = 1
7 b = 0.9
8 print(Decimal(a)-Decimal(b))

结果：

0.1000000000

getcontext().prec = 10把精度设置为10位，注意不是小数点后的位数，而是整个数字的位数。如果需要去掉后面的0，需要用float()转换一下。在具体的计算中，还需要用Decimal包装计算的所有数字。

转载于:https://www.cnblogs.com/nullcc/p/6767050.html