算法 浮点陷阱

24 篇文章 0 订阅

在使用浮点数进行计算时不可直接使用“==”
比如System.out.println(0.1+0.2);结果为“0.30000000000000004”
System.out.println(0.1+0.2 == 0.3);结果为false

解决措施:
1.将浮点型转化为整数
2.将其相减的绝对值与某一极小值比较如System.out.println(Math.abs(0.1 + 0.2 - 0.3)<1E10);

当需计算1/a+1/b+1/c ==1 此类计算时 注意1/a结果为0(因其为整数)
应该为1.0/a+1.0/b+1.0/c ==1
同时为避免出现浮点陷阱 可改为b*c+a*c+a*b==a*b*c

特殊值:
当 a=3.0/0 结果为 Infinity
当 a+任意数 结果仍为 Infinity
1/a结果为0.0
a*-1 结果为 -Infinity
-1/a 结果为 -0.0
当b=0.0/0.0 结果为NaN
NaN : Not a Number

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值