为什么python中浮点计算结果不正确?

什么是浮点数?

浮点数在计算机硬件中表示为以2为基数(二进制)的小数。

举例而言,十进制的小数0.125等于 1/10 + 2/100 + 5/1000 ,同理,二进制的小数0.001等于0/2 + 0/4 + 1/8。这两个小数具有相同的值,唯一真正的区别是第一个是以10为基数的小数表示法,第二个则是2为基数。

十进制小数与二进制小数的转换

大多数的十进制小数都不能精确地表示为二进制小数。所以在大多数情况下,十进制浮点数都只能近似地以二进制浮点数形式储存在计算机中。

对于一个分数1/3 。它在十进制下的一个近似值是0.3,或者0.33以及0.333等。无论你在后面加上多少个3,它都永远不会等于1/3 ,只是更加接近1/3

同理,无论你使用多少位二进制数,十进制的0.1都无法精确地表示为一个以2为基数的小数。 在二进制中,1/10 是一个无限循环小数0.0001100110011001100110011001100110011001100110011...

因此在大部分情况下,

  • 4
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 31
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 31
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

D_ry

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值