Double计算结果精度出错问题以及解决方法

前言

  • 语言:Java

问题描述

在使用double进行计算时,小数相加会出现计算结果不准确。例如有时0.9+1=1.999999999;

原因分析

出现这些问题的原因是:double在计算加减的时候会先把十进制数转换为二进制,转换的方法如下图
十进制小数转二进制方法
对于某些十进制小数,转换为二进制的时候,会转换为无线循环小数,例如0.9,可以使用上图的方法进行转换,但是double的长度是有限的。这样,在0.9这个数转换为二进制时的值,就不是0.9,而是一个约为0.9的数。

解决办法

使用BigDeciaml类

BigDecimal构造函数
  • BigDecimal(int):创建一个具有参数所指定整数值的对象

  • BigDecimal(double):创建一个具有参数所指定双精度值的对象

  • BigDecimal(long):创建一个具有参数所指定长整数值的对象

  • BigDecimal(String):创建一个具有参数所指定以字符串表示的数值的对象

  • 其中BigDecimal(String)比较常用。

BigDecimal使用方法
BigDecimal bd1 = new BigDecimal("1.0"); // 这里用字符串
BigDecimal bd2 = new BigDecimal("0.9");

// 加法
BigDecimal r2 = bd1.add(bd2);

// 减法
BigDecimal r1 = bd1.subtract(bd2);

//乘法
BigDecimal r3 = bd1.multiply(bd2);

// 除法 除不尽时 x填保留位数 后面为四舍五入之意
/**
  * BigDecimal("0.5")).divide(a,b,c)
  * a:BigDecimal对象,除数
  * b:表示表示需要精确到小数点以后几位
  * c:表示舍入模式,ROUND_HALF_UP为四舍五入
  */
BigDecimal r4 = new BigDecimal("1.4").divide(new BigDecimal("0.9")); 

BigDecimal r5 = new BigDecimal("1.4").subtract(new BigDecimal("0.5")).divide(new BigDecimal("0.9"), x, BigDecimal.ROUND_HALF_UP); 
除法的几种舍入方式
ROUND_CEILING    //向正无穷方向舍入
 
ROUND_DOWN    //向零方向舍入
 
ROUND_FLOOR    //向负无穷方向舍入
 
ROUND_HALF_DOWN    //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向下舍入, 例如1.55 保留一位小数结果为1.5
 
ROUND_HALF_EVEN    //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,如果保留位数是奇数,使用ROUND_HALF_UP,如果是偶数,使用ROUND_HALF_DOWN
 
ROUND_HALF_UP    //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向上舍入, 1.55保留一位小数结果为1.6
 
ROUND_UNNECESSARY    //计算结果是精确的,不需要舍入模式
 
ROUND_UP    //向远离0的方向舍入

以上内容对你有用的话就点个赞吧!

  • 2
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值