java有效位数的保留,java 将数字转为指定位数的有效数字

仍旧是因为一道题目:

在处理有效数字的时候,难住了..... :a:

public static double roundToSignificantFigures(double num, int n) {

if(num == 0) {

return 0;

}

final double d = Math.ceil(Math.log10(num < 0 ? -num: num));

final int power = n - (int) d;

final double magnitude = Math.pow(10, power);

final long shifted = Math.round(num*magnitude);

return shifted/magnitude;

}

num是将要转化的数字

n是需要保留的有效数字位数

d 是计算出的整数部分有几位,使用的是以10为底的对数向上取整得到的位数.如果对数结果小于0,说明本身就是小数.

power是剩余部分,即小数部分的位数.如果本身是小于0的话,那这部分应该是除去小数点后连续的0之外需要的数字位长度.

magnitude 是将原本数字进行扩大10的power次方.

扩大后再执行四舍五入.

最后将扩大的倍数减少,得到结果.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值