Java中浮点数运算不准确的原因及解决方案

Java中浮点数运算存在不准确性,源于double和float类型存储遵循IEEE-754标准,导致精度损失。浮点数的存储包括符号位、指数部分和底数部分,指数有偏移量,而尾数的实际精度受限。为解决这个问题,Java提供了BigDecimal类,通过String构造方法可以确保精度,避免double转换过程中的误差。
摘要由CSDN通过智能技术生成

java中执行以下代码预期结果肯定是0.1

System.out.println(1.0 - 0.9);

但事实上运行结果为
在这里插入图片描述
原因
Java中的小数使用double和float表示,小数属于浮点型(默认为double)。
对于float型的值,则要在数字后加f或F,如12.3F,它在机器中占32位,4个字节来存储,表示精度较低。double是64位。

那么一个小数在Java中是如何存储的呢?

Java语言中,float类型数字在计算机中的存储遵循IEEE-754格式标准:

(1)一个浮点数有3部分组成:符号位,指数部分e和底数部分m。

(2)浮点数需要用二进制来表示,所以底数m部分:使用二进制数来表示此浮点数的实际值。

(3)指数可正可负,所以,IEEE规定,此处算出的次方必须减去127才是真正的指数。因此指数部分有偏移量(float为127, double为1023)所以,float类型的指数可从-126到128。

(4)float类型符号位占1位,指数部分占用8bit(1个字节)的二进制数,可表示数值范围为0-255,尾数占23位(因为规格化表示,小数点左边的就是最高位一定为1,最高位省去不存储,在存储中占23bit,实际有24位精度)

(5)double类型符号位占1位,指数部分占11位,尾数占52位(因为规格化表示,小数点左边一定为1,所以实际有53位精度)
这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。
解决方法

  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值