Python 中 float 计算精度问题

问题

浮点数不能精确的表示十进制数，并且即使是最简单的数学运算也会产生误差。该错误是由于浮点数的存储方式引起的。
如在Python中，浮点数( float )默认精度为17位，在执行简单的浮点数加法计算时会产生如下误差：

1/3 + 10
> 10.333333333333334
1/3 + 10 -10
> 0.3333333333333339
(1/3 + 10 -10) == 1/3
> False

a = 1.1
b = 2.2
a + b - 3.3
> 4.440892098500626e-16

解决方式

1. 乘以极大整数

a = 1.1
b = 2.2

(a + b) == 3.3
> False

(a + b) * 10000 == 3.3 * 10000
> True

(a + b) * 10000 / 10000
> 3.3

((a + b) - 3.3) * 10000
> 4.440892098500626e-12

((a + b) * 10000 / 10000) - 3.3
> 0.0

2. 调用decimal模块
   注意：Decimal('str') 使用字符串
   decimal 模块实现了IBM的”通用小数运算规范”

from decimal import *

Decimal(a) + Decimal(b)
> Decimal('3.300000000000000266453525910')

Decimal(str(a)) + Decimal(str(b))
> Decimal('3.3')

Decimal('1.1') + Decimal('2.2') == Decimal('3.3')
> True

float(Decimal(str(a)) + Decimal(str(b)))
> 3.3

3. 误差极小视为0 （或四舍五入等舍弃精度的方法）

def isZero(tininum):
    if abs(tininum) < 0.0000001:
        return True
    return False

(5 + 2/3)- 5, 2/3
> (0.666666666666667, 0.6666666666666666)

bb = ((5 + 2/3) - 5) - 2/3
-bb
> -3.3306690738754696e-16

abs(-bb) < 0.0000001
> True

isZero(bb)
> True

4. 将整数部分和小数部分分割（重写四则计算方法）

1.1
整数部分：1
小数部分：1
2.3
整数部分：2
小数部分：3
1.1 + 2.3 = (1+1) . (1+3)

---

相关文章

1. 浅谈float浮点型的底层存储与运算
2. python3-cookbook 3.2 执行精确的浮点数运算
3. 关于Python里面小数点精度控制的问题
4. Javascript优化后的加减乘除（解决js浮点数计算bug）