浮点数精度问题

最新推荐文章于 2024-10-16 19:08:56 发布

YoungHong1992

最新推荐文章于 2024-10-16 19:08:56 发布

阅读量553

点赞数 8

文章标签：算法

本文链接：https://blog.csdn.net/YoungHong1992/article/details/135343503

版权

Python 3.10.12 (main, Nov 20 2023, 15:14:05) [GCC 11.4.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> 24.2 / 0.1
241.99999999999997
>>> 24.2 * (1 / 0.1)
242.0
>>>

在计算机中，浮点数运算可能导致精度误差，这是由于浮点数的内部表示方式和计算方式所导致的。Python 中也存在这种情况。

24.2 / 0.1 实际上是除法运算，结果应该是精确的 242.0，但由于浮点数的表示方式和计算精度，可能会出现微小的误差，例如 241.99999999999997。
24.2 * (1 / 0.1) 中的 1 / 0.1 先被计算成 10.0，再与 24.2 相乘，这样的结果在浮点数表示下应该是精确的 242.0。
在Python中，由于浮点数精度限制，某些计算可能会产生微小的误差，但在数学上这两个表达式应该得到相同的结果。