【CS】“浮点数陷阱”:关于Python中 0.1 + 0.2 ≠ 0.3 的问题

1. 问题描述

今天在MMDet群里面看到一个问题:
在Python中,0.1 + 0.2 ≠ 0.3

我在python里面试了一下,果真如此:
在这里插入图片描述

2. 实现分析

在Python中,使用==比较小数时,其内部实现是使用浮点数的bit位进行比较的。这是因为Python中的小数是使用双精度浮点数表示法来存储的,浮点数的比较是通过比较它们的bit位来实现的,具体来说,将两个浮点数值转换为二进制后,直接比较它们的二进制表示是否相等。

3. 解决方案

在Python中的十进制小数最多可以精确到28位。这是因为Python使用的是双精度浮点数表示法,其精度为53位。但是,由于十进制小数与二进制小数之间并不是完全对等转换的,所以在将十进制小数转换为二进制小数时,精度会有所损失。因此,Python只能保证小数点后面的28位数字是精确的,超过28位的数字会存在精度误差。如果需要更高精度的计算,可以使用decimal模块或fractions模块来处理。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值