【BigDecimal.compareTo 遇到的坑】

已于 2022-08-10 23:17:05 修改
阅读量595 收藏
点赞数 1
文章标签： java
于 2022-08-10 23:16:28 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/q1364557884/article/details/126276248
版权

问题

写代码时用到条件 new BigDecimal(“0.01”).compareTo(0.01) == 0
这个条件实际是不成立的，导致花费了一个小时来排查问题

原因：

因为new bigdemical（）内部是利用的double的构造方法，而这个构造方法jdk的描述是，其结果具有一定的不可预料性，很难对小数做出精确的描述

通过调试也可以发现 new BigDecimal(0.01) 实时输出的是
0.01000000000000000020816681711721685132943093776702880859375

解决方案：

new BigDecimal(“0.01”).compareTo(BigDecimal.valueof(0.01)) == 0

七月&猪
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Bigdecimal遇到的坑-equals和compareTo
青苔小榭
01-14 1912
文章目录前言1.equals2.compareTo 前言 运营有个需求，当首付比例为10%的时候没有加融上限 于是我写了以下代码： if (vo.getRatio().equals(new BigDecimal(“0.1”)) ){ return null; }else { xxx } 后来测试同学来找我了，说“不对丫，首付比例10%的时候还是会有加融上限的丫！” 我心里觉得“不对丫，我加了限制丫...
BigDecimal比较建议用compareTo
wanghao112956的博客
08-21 8088
前言 前两天测试发现一个Bug，告诉我说他明明只修改了订单详情中商品的数量，为什么提示说订单中商品单价不能修改（后台限制了特殊单子的单价不能修改），但是他明明没有修改商品的单价，这就很奇怪了。我看了下入参，修改接口传的该商品的单价为price=222，数据库中该商品的单价为222.000000。该字段为BigDecimal类型，除了精度不一样，值是相等的，而后台校验相等用的是equals。而网上查...
浅谈java中BigDecimal的equals与compareTo的区别
09-01
下面小编就为大家带来一篇浅谈java中BigDecimal的equals与compareTo的区别。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
Java BigDecimal常用方法
qq_36521848的博客
07-27 344
BigDecimal：计算时，对数据精度要求较高时使用，例如：钱 基础用法： //加 BigDecimal bd1 = new BigDecimal("0.09"); BigDecimal bd2 = new BigDecimal("0.01"); System.out.println("add:" + bd1.add(bd2)); System.out.println("-------------------"); //减 BigDecimal bd3 = new BigDecimal("1.0"
BigDecimal的精度问题以及解决方案
老司机让开，Java新手来了
06-19 2576
背景 我们在开发产品时, 会遇到金额的问题. 与普通的计算不同, 涉及到钱的问题不马虎, 多一分少一分肯定是不行的. 数据库: 存储金额时, bigint, 以分为单位. 场景 在支付一个订单时, 企业支付一部分, 个人支付一部分. 如果发生退单并且产生手续费的情况, 这个手续费是针对这个订单的. 所以企业和个人都需要承担一部分手续费, 然后再退款到企业和个人账户上. 而计算手续费的比例, 必然要用到除法运算. 比如: 先算企业手续费: `` 企业手续费 = 手续费 * (企业支付金额 / 订单总金额);
BigDecimal.js.zip
05-12
为了解决这个问题，开发者通常会引入第三方库，比如"BigDecimal.js"。这个库提供了一个名为`BigDecimal`的数据类型，用于实现大数运算，确保结果的精度不受损失。 "BigDecimal.js.zip"是一个压缩包，其中包含了...
bigDecimal.js:支持大量操作JavaScript库
05-16
console.log(bd1.compareTo(bd2) === BigDecimal.LESS_THAN); // 输出 "true"，因为bd1小于bd2 ``` BigDecimal.js 还提供了其他高级功能，如幂运算、绝对值、求余数、求平方根等，同时支持对BigDecimal对象进行格式...
Bigdecimal.js
09-03
"Bigdecimal.js"就是这样一个专门解决多精度小数运算问题的JavaScript库。它允许开发者在JavaScript环境中进行高精度的浮点数运算，避免了由于JavaScript内置类型处理大数和小数时可能出现的精度丢失问题。 ...
bigdecimal.js
12-10
在前端实际开发中，进行前端计算会出现丢失精度的问题,项目中需要对金钱进行运算，为了使计算结果更准确，故使用bigDecimal工具来实现
bigDecimal.js
02-07
JavaScript解决高精度数字运算。
BigDecimal 使用compareTo比较大小
studio_1的博客
02-01 9753
【代码】BigDecimal 使用compareTo比较大小。
BigDecimal的equals方法和compareTo方法的区别
qq_23876691的博客
03-09 2880
BigDecima的等值比较方法
BigDecimal的compareTo方法的bug
peiyongwei的博客
12-10 886
BigDecimal的compareTo方法的bug
BigDecimal相同值compareTo结果不是0问题记录
weixin_60520958的博客
02-23 505
BigDecimal相同值compareTo结果不是0
BigDecimal 类型的金额 compareTo比较大小
随风~潜入夜的博客
08-18 1504
BigDecimal 类型的金额 compareTo比较大小
bigdecimal判断是否为零（compareTo比较大小）
热门推荐
wjw_de_java的博客
11-24 6万+
1.判断Bigdecimal类型是否等于0的方法b.equals(BigDecimal.ZERO); 用equals方法和BigDecimal.ZERO进行比较。 2.上面判断是否等于零存在的问题： 我们来查看源代码： Bigdecimal的equals方法不仅仅比较值的大小是否相等，首先比较的是scale（scale是bigdecimal的保留小数点位数，比如 new Bigdecimal(“1.001”),scale为3），也就是说，不但值得大小要相等，保留位数也要相等，equals才能返回true。
Bigdecimal的compareTo,判断是否为零（compareTo比较大小）
技术老鸟
07-26 858
Bigdecimal的compareTo,判断是否为零（compareTo比较大小）
BigDecimal.compareTo结果不对，明明相等，结果是-1
最新发布
qq_37088797的博客
01-12 673
例如 new BigDecimal(0.02).compareTo(value) 中0.02精度丢失导致value=0.02时结果不为0。或者 BigDecimal.valueOf(double) 例如 BigDecimal.valueOf(0.01)是因为new BigDecimal(double).compareTo 中double精度丢失。改为new BigDecimal(“0.02”).compareTo(value)
BigDecimal.compareTo方法
11-17
BigDecimal.compareTo方法是用于比较两个BigDecimal对象的值的方法。它返回一个整数值，如果这个BigDecimal对象等于参数BigDecimal对象，则返回0；如果这个BigDecimal对象小于参数BigDecimal对象，则返回小于0的值；如果这个BigDecimal对象大于参数BigDecimal对象，则返回大于0的值。下面是一个例子： ```java BigDecimal bigDecimal1 = new BigDecimal("1.23");BigDecimal bigDecimal2 = new BigDecimal("2.34"); BigDecimal bigDecimal3 = new BigDecimal("1.23"); System.out.println(bigDecimal1.compareTo(bigDecimal2)); // 输出：-1 System.out.println(bigDecimal2.compareTo(bigDecimal1)); // 输出：1 System.out.println(bigDecimal1.compareTo(bigDecimal3)); // 输出：0 ``` 在上面的例子中，我们创建了三个BigDecimal对象，分别是1.23、2.34和1.23。然后我们使用compareTo方法比较了它们的大小关系，输出结果分别是-1、1和0，符合预期。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值