BigDecimal 计算精度丢失问题

什么是BigDecimal

BigDecimal是一个Java类,用于处理精确的十进制运算。它可以用于代替基本数据类型(如double和float),以防止浮点数运算时的精度丢失。

在代码中,可以使用BigDecimal类来创建和操作BigDecimal对象。可以使用BigDecimal提供的方法来执行各种算术运算,如加法、减法、乘法和除法,以及比较和取整操作。

BigDecimal可以用于处理需要高精度计算的场景,例如金融计算、货币转换、税务计算等。通过使用BigDecimal,可以减少由于浮点数运算带来的舍入误差,并提供更加精确的计算结果。


使用BigDecimal进行加减乘除时经常会出现精度丢失问题

eq: A.subtract(B).divide(C)
A= 369811.20 B= 6076.20 C= 369811.20
输出结果: 1.0
导致原因就是精度的丢失,实际应该是0.98,使用下面的方法可以防止此问题产生

`A.subtract(B).divide(C,2,BigDecimal.ROUND_HALF_UP)`

输出结果: 0.98


  • 7
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值