【python】浮点数计算时的误差问题

python浮点数计算的问题

python不建议直接将两个浮点数进行精确的计算，因为python中的浮点数计算存在一个误差问题，例如：

出现这种问题的原因是，计算机中保存数字的寄存器是使用二进制来保存数字的，有的有限十进制小数只能使用无限的二进制小数表示。
首先看一下将十进制小数转换为二进制的过程为：

将小数乘以2，取出整数部分作为二进制表示的第1位；然后再将小数部分乘以2，将得到的整数部分作为二进制表示的第2位；以此类推，直到小数部分为0。

例如【5.20-5】的结果是0.2时，使用二进制表示就是：0.0011 0011 0011…
是个无限循环小数。
而内存只会划分有限的空间来保存一个小数，所以当我们想要保存这个0.2的数字时，只会截取二进制数字中的一部分来保存，而当我们重新通过被截取的二进制数字来计算对应的十进制数字，就会产生误差。

当然不是所有浮点数计算结果都会产生这种误差，例如十进制小数0.25可以使用有限的二进制小数表示，所以当浮点数的计算结果是这些数时就不会有误差：

python如何解决浮点数计算误差

方法一：
如果你只希望浮点数精确到某个精度即可，那可以使用浮点数自带的精度计算。

方法二：
也可以使用round()函数，直接四舍五入。如果round()函数中不指定第二个参数的话，默认四舍五入到整数位，否则精度最多保存到第二个参数长度的小数位：

In [1]: 4 - 3.6
Out[1]: 0.3999999999999999

In [2]: round(4 - 3.6)
Out[2]: 0.0

In [3]: round(4-3.6,2)
Out[3]: 0.4

In [4]: round(4-3.6,5)
Out[4]: 0.4

In [5]: round(2.55555,3)
Out[5]: 2.556

In [6]: round(2.555,30)
Out[6]: 2.555



In [7]: round(2.5)  #注意这个从python3开始是向偶数看齐，即整数部分为偶数时舍弃小数部分，为奇数时进一位
Out[7]: 3.0  #python3输出为2

In [8]: round(3.5)
Out[8]: 4.0

方法三：
使用decimal模块：

注意，decimal函数中的参数是字符串。
另外Decimal的引入申明为：

from decimal import Decimal

参考：
https://blog.csdn.net/xiaodongxiexie/article/details/54933753