java浮点数精度问题

问题

java中执行以下代码预期结果肯定是0.1

System.out.println(1.0 - 0.9);

但事实上运行结果为
在这里插入图片描述
原因

Java中的小数使用double和float表示,小数属于浮点型(默认为double)。
对于float型的值,则要在数字后加f或F,如12.3F,它在机器中占32位,4个字节来存储,表示精度较低。double是64位。

那么一个小数在Java中是如何存储的呢?

Java语言中,float类型数字在计算机中的存储遵循IEEE-754格式标准:

(1)一个浮点数有3部分组成:符号位,指数部分e和底数部分m。

(2)浮点数需要用二进制来表示,所以底数m部分:使用二进制数来表示此浮点数的实际值。

(3)指数可正可负,所以,IEEE规定,此处算出的次方必须减去127才是真正的指数。因此指数部分有偏移量(float为127, double为1023)所以,float类型的指数可从-126到128。

(4)float类型符号位占1位,指数部分占用8bit(1个字节)的二进制数,可表示数值范围为0-255,尾数占23位(因为规格化表示,小数点左边的就是最高位一定为1,最高位省去不存储,在存储中占23bit,实际有24位精度)

(5)double类型符号位占1位,指数部分占11位,尾数占52位(因为规格化表示,小数点左边一定为1,所以实际有53位精度)
这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。
解决方法

java中提供了BigDecimal类

public BigDecimal(double val) //将double表示形式转换为BigDecimal (不建议使用)
public BigDecimal(int val)//将int表示形式转换成BigDecimal
public BigDecimal(String val)//将String表示形式转换成BigDecimal

(1)首先调用public BigDecimal(String val)方法看看double型数在计算机中倒地是什么样的

		BigDecimal one = new BigDecimal(1.0);
        BigDecimal bigDecimal = new BigDecimal(0.9);
        System.out.println(one);
        System.out.println(bigDecimal);

以上代码的输出结果为
在这里插入图片描述
由于计算机无法准确的表示浮点数,所以我们的double型0.9对于计算机来说并不是,对于计算机来说它认为的0.1其实是0.90000000000000002220446049250313080847263336181640625
此时再进行相减

		System.out.println(one.subtract(bigDecimal));
        System.out.println(1.0 - 0.9);

在这里插入图片描述
与直接相减的结果一致。
(2)所以这是调用另一个构造方法public BigDecimal(String val)
String 构造方法是完全可预知的:写入 newBigDecimal(“0.9”) 将创建一个 BigDecimal,它正好等于预期的 0.9。因此,通常建议优先使用String构造方法。当double必须用作BigDecimal的源时,使用Double.toString(double)转成String。

double a = 1.0;
        double b = 0.9;
        BigDecimal aDouble = new BigDecimal(Double.toString(a));
        BigDecimal bDouble = new BigDecimal(Double.toString(b));
        System.out.println(aDouble.subtract(bDouble));

在这里插入图片描述
此外
Java浮点数自身运算不会出现精度问题
a=0.1,b=0.1
a/b
a-b
a*b
a+b
都不会有精度问题

如果是0.5f与0.5d就会不会有精度问题
但是如果是0.050f与0.050d就会出现精度问题

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值