mysql 查询double_Mysql Double查询进度丢失,在java程序里面解决。

问题

在mysql 中,为了大胆使用double,减少对积分账号比率问题描述,但是又多出了浮点的问题。

5822e842340b?utm_campaign=maleskine&utm_content=note&utm_medium=seo_notes&utm_source=recommendation

从图中可以看出,保存在库里的值也开始丢失精度

首先得明白一个问题就是,计算机如何保持小数点的问题。

十进制小数如何转化为二进制数

算法是乘以2直到没有了小数为止。举个例子,0.9表示成二进制数

0.9*2=1.8 取整数部分 1

0.8(1.8的小数部分)*2=1.6 取整数部分 1

0.6*2=1.2 取整数部分 1

0.2*2=0.4 取整数部分 0

0.4*2=0.8 取整数部分 0

0.8*2=1.6 取整数部分 1

0.6*2=1.2 取整数部分 0

......... 0.9二进制表示为(从上往下): 1100100100100......

注意:上面的计算过程循环了,也就是说*2永远不可能消灭小数部分,这样算法将无限下去。很显然,小数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。

结合问题发现double 类型保持13位小数比较安全

在java代码加入对小数数量问题进行处理

private static int getNumberDecimalDigits(Double balance) {

int decimalDigits = 0;

String balanceStr = Double.toString(balance);

int indexOf = balanceStr.indexOf(".");

if(indexOf > 0){

decimalDigits = balanceStr.length() - 1 - indexOf;

}

return decimalDigits;

}

public static void main(String[] args){

Double balance = 1.0499999999999925;

int decimalDigits = getNumberDecimalDigits(balance);

System.out.println(decimalDigits);

if(decimalDigits >= 13){

BigDecimal eachNumberDecimal = new BigDecimal(balance);

balance = eachNumberDecimal.setScale(13, BigDecimal.ROUND_UP).doubleValue();

}

System.out.println(balance);

}

测试结果

16

1.05

参考

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值