【Java实战系列】「技术盲区」Double与Float的坑与解决办法以及BigDecimal的取而代之

本文探讨了Java中Double和Float的精度问题,解释了浮点数在计算机中的存储方式,以及为何会出现精度误差。建议在需要高精度计算如货币计算时使用BigDecimal。并介绍了BigDecimal的创建、运算和比较方法,强调了其在处理高精度数值计算时的优势。
摘要由CSDN通过智能技术生成

00111111 10000000 00000000 00000000(二进制)

0x3F800000(十六进制)

0.99999999(十进制)

00111111 10000000 00000000 00000000(二进制)

0x3F800000(十六进制)

这两个十进制浮点数的底层二进制表示是一样的,怪不得==的判断结果返回true!

但是1f == 0.9999999f返回的结果是符合预期的,打印false,我们也把它们转换到二进制模式下看看情况:

1.0(十进制)

00111111 10000000 00000000 00000000(二进制)

0x3F800000(十六进制)

0.9999999(十进制)

00111111 01111111 11111111 11111110(二进制)

0x3F7FFFFE(十六进制)

它俩的二进制数字表示确实不一样,这是理所应当的结果。

那么为什么0.99999999的底层二进制表示竟然是:00111111 10000000 00000000 00000000呢?

这不明明是浮点数1.0的二进制表示吗?主要要分一下浮点数的精度问题了。

浮点数的精度问题!

学过 《计算机组成原理》 这门课的小伙伴应该都知道,浮点数在计算机中的存储方式遵循IEEE 754 浮点数计数标准,可以用科学计数法表示为:

只要给出:符号(S)、阶码部分(E)、尾数部分(M) 这三个维度的信息,一个浮点数的表示就完全确定下来了,所以float和double这两种浮点数在内存中的存储结构如下所示:

符号部分(S)

0-正 1-负

阶码部分(E)(指数部分):

对于float型浮点数,指数部分8位,考虑可正可负,因此可以表示的指数范围为-127 ~ 128

对于double型浮点数,指数部分11位,考虑可正可负,因此可以表示的指数范围为-1023 ~ 1024

尾数部分(M):

浮点数的精度是由尾数的位数来决定的:

  • 对于float型浮点数,尾

  • 10
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值