Java浮点数的计算与比较

Java的浮点数计算是存在误差的,所以列出以下注意事项。

1.浮点数计算只有是在两个数之间含有一个浮点数的情况下才能算出。

 

1+7/3=3这个结果显然是错误的。但是为什么呢?公式没错啊!

因为在Java中, 只有是在两个数之间含有一个浮点数的情况下才能算出浮点数。所以有以下两种修改方案。

(1)将整数型3改为浮点型3.0

 

(2)将b改为浮点型double b

 

 

2.那么如何对浮点数进行比较呢?

 (1)

 

为什么a == b是true,而 a == c是false?这就是跟上一点提到的有关,浮点数的计算有误差。你那我们如何判断呢?

(2)

 

 只需增加一句Math.abs(a - b) < 0.000001,什么意思呢就是说取a - b的绝对值,看是否小于一个很小的数,是的即相等。我们来看看c到底等于什么?

 

 这就是浮点数计算的误差。

有问题欢迎指出,在CSDN上学到很多,希望大家一起分享学习经验。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值