所有开发应该知道的二进制运算溢出问题--19.9

最新推荐文章于 2022-12-25 11:12:22 发布

timple7

最新推荐文章于 2022-12-25 11:12:22 发布

阅读量883

点赞数 1

分类专栏： android 文章标签： android 二进制运算溢出 19.9

本文链接：https://blog.csdn.net/zztt113/article/details/88286437

版权

android 专栏收录该内容

17 篇文章 0 订阅

订阅专栏

今天测试突然提了一个bug给我，系统里面抵扣砖石不对，我是真的惊了，从服务器拿的数据时19.9元然后我们本地计算，钻石比例是100，然后转换为砖石之后变成了 1989，当初还以为是算错了，后面上网一查，原来是double类型二进制运算溢出问题，不光是java ，.net也会有这样的问题，只有19.9会出问题，9.9和29.9不会；

处理方案

 BigDecimal bignum1 = new BigDecimal(servicePrice);
        BigDecimal bignum2 = new BigDecimal("100");
        BigDecimal bignum3 = bignum1.multiply(bignum2); //乘法运算
        allMoney = bignum3 .intValue();//应付金额（分）