java求对数时的注意点

在java中,java.lang.Math类提供了double log(int n)方法,返回的结果是以e为底对n求对数的结果。java中没有提供以其它整数作为底数的对数函数,因此,只能利用换底公式进行计算。
换底公式
在leetcode 258题中,有一步需要计算多个以10为底的数字的对数,计算10 ^1 ~ 10 ^8时都没有问题,但在计算log10(10 ^9)时,返回的结果是8,明显出现了错误。

为了排查问题,我进行了如下的测试:

System.out.println(new Double(Math.log(1000000000)/Math.log(10)).intValue());
System.out.println(new Double(Math.log(1000000000)/Math.log(10)));

返回的结果为:

8.999999999999998
8

经过分析,是因为换底后的两个log方法分别计算出结果后相除,会存在一些误差,得到的结果并不完全等于换底前的值。而Double类对象的intValue方法,是单纯地去掉小数部分转为整型,而非四舍五入转为整型,所以会导致错误。

在应用场景中,需要的是四舍五入后得到的整型数字,可以考虑给double结果加0.5后再转整型:

System.out.println(new Double(Math.log(1000000000)/Math.log(10)+0.5).intValue());
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值