java:
System.out.println( (3 - 2.6) == 0.4);
结果是false
根据调试 System.out.println(3 - 2.6) 结果是 0.3999999999999999 并不是0.4
浮点数的误差的产生：
由于计算机内部以二进制保存，所以十进制的有限位的小数，在计算机内部会是一个无限位的小数。
例如 十进制的0.9虽然只有一位小数，转成2进制是无限循环小数0.1110011001100110011...
<
在Java中，直接进行浮点数减法运算如(3 - 2.6)可能会得到不精确的结果0.3999999999999999，而非预期的0.4。这是因为浮点数在计算机内部以二进制表示，导致十进制小数无法精确转换。为解决这个问题，可以将小数乘以100变为整数运算，然后再除以100；或者通过截取有效小数位数；对于可精确表示的十进制数，选择足够大的数据类型。使用Math.round()进行四舍五入处理后，表达式Math.round((3 - 2.6) * 100) / 100.0 == 0.4能得到正确结果true。
最低0.47元/天 解锁文章
扫一扫
6455
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
