BigDecimal 除法运算异常

BigDecimal 计算时由于除法运算,得到循环结果,造成异常!

2009-05-23 10:26

Non-terminating decimal expansion; no exact representable decimal result
--------------------------------------------------------------------------------------------------

BigDecimal total = new BigDecimal(200).setScale(3, BigDecimal.ROUND_HALF_UP);

表示这个total的初始值为200.000

 

BigDecimal total2 = new BigDecimal(10).setScale(3, BigDecimal.ROUND_HALF_UP);

 

表示这个total2的初始值为10.000

 

当这个2数相除的时候不能简单的用total.divide(total2);

 

如果这样会报错:

 

Non-terminating decimal expansion; no exact representable decimal result

 

正确的方法:

 

total.divide(total2,3,BigDecimal.ROUND_HALF_UP);

 

这样才不会报错,你必须为它保留小数位

------------------------------------------------------------------------------------

那天做个计算,要根据某种物料的干基重量及湿及重量计算出水份的比例值存起来,这个计算就出现了异常,网上一搜发现上面这段文字,所以对其做了更改,通过!

 

 

由于需要处理精度比较高的浮点数,所以弃用double类型,改用BigDecimal类来进行数值处理。

 

在加减乘时都没有出现问题,但是到除法运算时,提示了如下错误:

 

大概的意思是“无法结束的除法表达式;没有精确的除结果”。我当时输入的10/3,结果应该是3.3333....333

 

于是在网上找资料,发现我原来的处理方式有问题。

 

BigDecimal num1 = new BigDecimal("10");

 

BigDecimal num2 = new BigDecimal("3");

 

BigDecimal num3 = num1.divide(num2);

 

其实devide的函数定义如下

 

BigDecimal.divide(BigDecimal divisor, int scale, RoundingMode roundingMode) ;

 

scale为小数位数;

 

roundingMode为小数模式;

 

ROUND_CEILING

 

如果 BigDecimal 是正的,则做 ROUND_UP 操作;如果为负,则做 ROUND_DOWN 操作。

 

ROUND_DOWN

 

从不在舍弃(即截断)的小数之前增加数字。

 

ROUND_FLOOR

 

如果 BigDecimal 为正,则作 ROUND_UP ;如果为负,则作 ROUND_DOWN

 

ROUND_HALF_DOWN

 

若舍弃部分> .5,则作 ROUND_UP;否则,作 ROUND_DOWN

 

ROUND_HALF_EVEN

 

如果舍弃部分左边的数字为奇数,则作 ROUND_HALF_UP ;如果它为偶数,则作 ROUND_HALF_DOWN

 

ROUND_HALF_UP

 

若舍弃部分>=.5,则作 ROUND_UP ;否则,作 ROUND_DOWN

 

ROUND_UNNECESSARY

 

该“伪舍入模式”实际是指明所要求的操作必须是精确的,,因此不需要舍入操作。

 

ROUND_UP

 

总是在非 0 舍弃小数(即截断)之前增加数字。

 

写成如下便可通过

 

BigDecimal num3 = num1.divide(num210ROUND_HALF_DOWN);

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值