浮点数float保留小数和四舍五入问题

    使用%.2f对float保留两位小数时,产生的结果和预期不同,8.245保留两位小数的结果是8.24,8.255保留两位小数的结果是8.26,这就很奇怪了,为什么不是四舍五入?

    其实仍然是四舍五入,但根本问题是浮点数在计算机中不能精确存储,我们希望存储的是8.245,但其实计算机中存储的是8.2449998856...;我们希望存储的是8.255,但其实计算机中存储的是8.2550001144...。


    这么看的话就容易理解了,8.2449998856...保留两位小数,第三位是4,所以舍去,结果是8.24。8.2550001144...保留两位小数,第三位是5,所以进位,结果是8.26。


    到底5这个数在计算机中实际是4999....,还是5001..,最简单的是多打几个小数位出来看看,使用%.10f,就可以看出来。

    

为什么浮点数不能精确表达?可以参考“IEEE二进制浮点数算术标准(IEEE 754)”。 如果想严格的四舍五入,是需要特殊处理.5这个问题的,处理方法很多。


    %f并没有找到解释四舍五入问题,找到了python中的一个解释,应该原理类似:

  • 6
    点赞
  • 29
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值