BigDecimal的精度问题以及解决方案

在处理涉及金钱的计算时,BigDecimal的精度问题是个挑战。文章分析了使用float导致的精度误差,以及BigDecimal在除法和转换为long时可能存在的问题。为了解决这些问题,提出了指定保留小数位数和采用舍入策略的方法,确保在转化为long前进行精准的四舍五入操作,以避免计算误差。
摘要由CSDN通过智能技术生成

背景

我们在开发产品时, 会遇到金额的问题. 与普通的计算不同, 涉及到钱的问题不马虎, 多一分少一分肯定是不行的.
数据库: 存储金额时, bigint, 以分为单位.

场景

在支付一个订单时, 企业支付一部分, 个人支付一部分.
如果发生退单并且产生手续费的情况, 这个手续费是针对这个订单的.
所以企业和个人都需要承担一部分手续费, 然后再退款到企业和个人账户上.
而计算手续费的比例, 必然要用到除法运算.

比如: 先算企业手续费:
``
企业手续费 = 手续费 * (企业支付金额 / 订单总金额);

comFee = fee * ( comPayAmount / payAmount).

Long = Long * (BigDecimal / BigDecimal)

comFee = fee * comPercent;

Long = Long * BigDecimal
``
个人手续费就是个减法.

而精度问题会出现在两个地方:

  1. 计算百分比
  2. BigDecimal转long

分析

  1. 使用float

    float compPercent = (float) companyPayAmount / (float) payAmount;
    long companyFee = (long) ((float) penaltyAmount * (compPercent));
    

    这种方式, 数字稍微大一点, 就会有精度问题, 会出现多一分少一分的情况.

  2. 使用BigDecimal

    BigDecimal compPercent =
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值