float和double浮点数精度丢失问题,导致0.9f-0.8f不等于0.1f

1、首先请看代码块,想想输出的结果是什么?

        float a = 1.0f-0.9f;
        float b = 0.9f-0.8f;
        System.out.println("res1:"+(a==b));

        float  x = 0.5f-0.25f;
        float  y = 0.25f;

        System.out.println("res2:"+(x==y));

2、输出结果
res1:false
res2:true
为什么会这样呢?

3、原因
浮点数在计算机中采用二进制科学计数法存储,因为位数有限无法精确表示有些浮点数,所以导致了精度的丢失,二进制科学计数法无法准确标识1/10,就像十进制无法准确标识1/3.
结合上面的案例:
0.9=9/10,0.8=4/5无法用二进制科学计数法准确表示,参与运算会导致精度的丢失,最后导致a==b为false

0.5=1/2,0.25=1/4,可以通过二进制科学计数法精确表示,参与运算不会导致精度丢失,所以x==y为true

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值