单精度和双精度的运算问题

学习目标:
单精度和双精度的运算问题


问题引出:

当我们在运行如下输出语句时

System.out.println(2.5-0.9);
System.out.println(2.4-0.8);

System.out.println(2.5f-0.9f);
System.out.println((2.4f-0.8f));

输出结果如下:可能很多人就会疑惑了,不都是输出1.6吗?怎么就输出各不一样呢?


1.6
1.5999999999999999
1.6
1.6000001

问题解决:

首先,大家都知道,小数默认是Double类型,也就是说1.0是双精度型。而计算机底层是以二进制的补码形式存储数据,包括在进行四则运算,取余等操作。而我们发现2.5的小数部分0.5是可以被二除尽的,即2^-1次方,此时就是问题所在,而0.9在利用短除法求二进制时,是得不到整数,也就是无法用二进制表示,但是计算机底层会将它取出前52位(化成十进制则有14位)而后面的被舍弃。此时就会出现精度损失。 float类型也是一样的,只取前7位小数。所以也会有精度损失。

总结:在计算中只要有一个不精度损失,则结果也不损失。


如何解决

那如何解决两个都精度损失的数字的运算呢?就比如2.4-0.8,我还是要得到1.6,那该怎么办呢?
这里我们推荐大家使用BigDecimal类。

//add方法 +
//subtract方法 -
//multiply方法 *
//divide方法 /
BigDecimal d1 = BigDecimal.valueOf(2.4);
BigDecimal d2 = BigDecimal.valueOf(0.8);
double result = d1.subtract(d2).doubleValue();
System.out.println(result);
//输出结果:1.6

这样问题就轻松解决了。

  • 4
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值