[Python]关于浮点数计算时的误差问题及其解决方法

一、先认识两个运算符

在Python中，

“/”：表示除法

“//”:表示整除，用于计算两个数的除法结果并返回一个整数，舍弃小数部分

二、下面我们来看一段程序

根据组合数计算公式，C2 5 = 10，但是以下代码计算C2 5的结果是8（cni(5, 2)），而不是10，为什么？

原因是浮点数除法时精度问题导致结果错误。

知道原因后，让我们修改代码，使用普通的除法，然后查看结果是否正确。

def cni(n, i):
    minNI = min(i, n-i)
    result = 1
    for j in range(0, minNI):
        result = result * (n-j) /(minNI-j)
    return result
print(cni(5,3))

运行结果：10

最后发现，结果正确。

那么为什么会有误差问题呢？原因是

修改后的代码正确地计算出了 C(5,2) 的值为 10。问题在于原始代码中使用了整数除法 //，这导致了在计算过程中精度的丢失。通过使用普通的除法 / 并在最后将结果转换为整数，我们得到了正确的结果。

三、其实浮点数计算时也容易存在其他精度问题

如：

运行结果：1.2999999999999998

出现这种问题的原因是，计算机中保存数字的寄存器是使用二进制来保存数字的，有的有限十进制小数只能使用无限的二进制小数表示。

浮点数一个普遍的问题就是在计算机的世界中，浮点数并不能准确地表示十进制。并且，即便是最简单的数学运算，也会带来不可控制的后果。因为，在计算机的世界中只认识0与1。

首先看一下将十进制小数转换为二进制的过程为：

将小数乘以2，取出整数部分作为二进制表示的第1位；然后再将小数部分乘以2，将得到的整数部分作为二进制表示的第2位；以此类推，直到小数部分为0。

例如【5.20-5】的结果是0.2时，使用二进制表示就是：0.0011 0011 0011… 是个无限循环小数。 而内存只会划分有限的空间来保存一个小数，所以当我们想要保存这个0.2的数字时，只会截取二进制数字中的一部分来保存，而当我们重新通过被截取的二进制数字来计算对应的十进制数字，就会产生误差。

那么，我们如何在Python中去解决浮点数计算误差呢？

方法一：

如果你只希望浮点数精确到某个精度即可，那可以使用浮点数自带的精度计算。

方法二：

也可以使用round()函数，直接四舍五入。如果round()函数中不指定第二个参数的话，默认四舍五入到整数位，否则精度最多保存到第二个参数长度的小数位：

In [1]: 4 - 3.6
Out[1]: 0.3999999999999999

In [2]: round(4 - 3.6)
Out[2]: 0.0

In [3]: round(4-3.6,2)
Out[3]: 0.4

In [4]: round(4-3.6,5)
Out[4]: 0.4

In [5]: round(2.55555,3)
Out[5]: 2.556

In [6]: round(2.555,30)
Out[6]: 2.555



In [7]: round(2.5)  #注意这个从python3开始是向偶数看齐，即整数部分为偶数时舍弃小数部分，为奇数时进一位
Out[7]: 3.0  #python3输出为2

In [8]: round(3.5)
Out[8]: 4.0

方法三：

使用decimal模块：

注意，decimal函数中的参数是字符串。 另外Decimal的引入申明为：

from decimal import Decimal