只有1%的人搞懂过Python 浮点数陷阱

最新推荐文章于 2024-08-26 20:29:12 发布

Python编程KK

最新推荐文章于 2024-08-26 20:29:12 发布

阅读量2k

点赞数 2

文章标签： Python

本文链接：https://blog.csdn.net/meiguanxi7878/article/details/94658009

版权

本文深入探讨Python中的浮点数表示，通过实例揭示浮点数在计算机中的二进制表示和转换过程，以及由此引发的精度问题。内容包括整数与浮点数的二进制转换、IEEE 754浮点数标准的应用，解释了0.2在Python中不精确的原因。

摘要由CSDN通过智能技术生成

容纯干货，先从一个例子说起

>>> 0.1+0.2==0.3
False

当你第一次看到这个结果时可能会非常惊讶，原来还有个这么大的bug，再来看看表达式 0.1+0.2 到底等于多少？

>>> 0.1+0.2
0.30000000000000004

完全超出我们的想象。那么这个操作在计算机里面到底发生了什么事情？

我们还是回到二进制。

首先，需要明确一点，在计算机中无论是整数、浮点数、还是字符串最终都是用二进制来表示的。

整数的二进制表示法

整数 9 在计算机中二进制表示是： 1001 ，怎么得来的？

用十进制整数整除以2，得到商和余数，该余数就是二进制数的最低位，然后继续用商整除以2，得到新的商和余数，以此类推，直到商等于0，由所有余数倒排组成了该整数的二进制表现形式。用代码表示是：

>>> n = 9
>>> while n >0:
    n,e = divmod(n, 2) # divmod返回n除以2的商和余数
    print(e)
1 # 低位
0
0
1 # 高位
python资源分享扣扣群：855408893 ，与你分享Python企业当下人才需求，怎么学Python，和学习什么内容！