java8 numberformat,NumberFormat舍入问题仅限Java 8

Holger..

19

我可以将这个问题追溯到java.text.DigitList第522行.

情况是,它认为十进制数字6.0289已经四舍五入(与等效BigDecimal表示相比,这是正确的6.208899…)并且决定不再向上舍入.问题是这个决定只有在四舍五入产生的数字的情况下才有意义5,而不是在它大于的情况下5.请注意代码如何HALF_DOWN正确区分digit=='5'和digit>'5'案例.

显然,这是一个错误,并且是一个奇怪的错误,因为执行类似权限的代码(仅针对另一个方向)正好在破坏的代码之下.

case HALF_UP:

if (digits[maximumDigits] >= '5') {

// We should not round up if the rounding digits position is

// exactly the last index and if digits were already rounded.

if ((maximumDigits == (count - 1)) &&

(alreadyRounded))

return false;

// Value was exactly at or was above tie. We must round up.

return true;

}

break;

case HALF_DOWN:

if (digits[maximumDigits] > '5') {

return true;

} else if (digits[maximumDigits] == '5' ) {

if (maximumDigits == (count - 1)) {

// The rounding position is exactly the last index.

if (allDecimalDigits || alreadyRounded)

/* FloatingDecimal rounded up (value was below tie),

* or provided the exact list of digits (value was

* an exact tie). We should not round up, following

* the HALF_DOWN rounding rule.

*/

return false;

else

// Value was above the tie, we must round up.

return true;

}

// We must round up if it gives a non null digit after '5'.

for (int i=maximumDigits+1; i

if (digits[i] != '0') {

return true;

}

}

}

break;

这不会发生在另一个数字上的原因是,这6.2088不是四舍五入的结果(再次,与BigDecimal输出相比6.208800…).因此,在这种情况下,它将向上舍入.

如果有人想知道为什么他们确实改变了算法:Java 7对于诸如`1234567890123.45949`之类的值做错了.因此修复程序引入了一个新的bug ...解决方法是使用`nf.format(new BigDecimal(num))`来避免这两个错误. (4认同)

@Peter Lawrey:`new BigDecimal(double)`和`BigDecimal.valueOf(double)`不一样.后者将执行隐式的round-to-double操作,这将重新引入`1234567890123.45949`的双舍入问题.但是,如果你真的意味着`1234567890123.4595`,`valueOf`将是更好的选择.如果你想要安全起见,请使用`BigDecimal.valueOf(String)` (3认同)

+1表示已经为HALF_DOWN修复了它. (2认同)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值