在大数对10^9 + 7取余时精度丢失

在写算法时经常遇到这种情况,比如答案是由我们得到的两个很大的数字相乘得到的。

我就有遇到一个情况:

        使用1L*a*b%(Math.pow(10,9)+7)会超出范围,而1L*a*b%1000000007不会超出范围

        这个问题的原因是Math.pow(10,9)+7的返回值是一个double类型的数,而不是一个long类型的数。double类型的数在Java中是用64位二进制来表示的,其中有一部分是用来表示指数的。当一个double类型的数太大或太小的时候,它会出现溢出或下溢的情况,导致精度损失或变成无穷大或零。

所以,当使用1L*a*b%(Math.pow(10,9)+7)时,你实际上是将一个long类型的数和一个double类型的数进行取余运算,这会导致隐式类型转换。Java会将long类型的数转换为double类型的数,1L*a*b变为double后可能对精度丢失,数值不正确。

        所以应该使用整数类型的字面量来表示10^9+7,即1000000007。这样就可以保证两个操作数都是整数类型的数,不需要进行类型转换,也不会出现溢出或下溢的情况。

对于这种大数的计算,我们可以使用java中自带的数值类;

  • BigInteger类,它可以表示很大的整数,并提供了各种运算方法。
  • BigDecimal类,它可以表示任意精度的小数,并提供了各种运算方法。
  • 用这两个类就是相较于直接进行运算会效率慢。
     
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

日上三杆快起床

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值