保留n位有效数字

/** * 保留n位有效数字 * @param num * @return */ public static Double roundToSignificantFigures(double num, int n) { if (num == 0) { return 0.0; } final double d = Math.ceil(Math.log10(num < 0 ? -n...
摘要由CSDN通过智能技术生成

灵感来自
rounding to an arbitrary number of significant digits

保留n位有效数字

原理1:对一个数,求其以10为底的对数,可以很方便的知道他的位数。
如:Math.log10(12345.6) = 4.091512201627772
然后向上取整Math.ceil(4.091512201627772) = 5
可以得知12345.6的位数是5

原理2:Math.round() 可以帮助我们四舍五入。注意它针对第一个小数点。
我们可以将 12345.6 乘以修正因子 0.01 变成 123.456 ,这样就可以四舍五入了。
Math.round(123.456) = 123
最后除以修正因子0.01

    /**
     * 保留 n位有效数字
     * @param num       需要保留的数字
     * @param n         保留的有效数字位数
     * @return          Double
     */
    public static
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值