Java—Double类型进行加减乘除出错(精度)问题

前言:

我们知道,计算机在计算数据过程中都要先把源代码翻译成二进制的机器码,然后再进行相关的运算。然而在转换的过程中,有些十进制数无法用一个有限的二进制数来表示,就是说转换的时候出现了精度的丢失问题,所以导致最后在运算的过程中,自然就出现了我们出现的精度问题。

整体思路是先将 double 类型的数据转换成 BigDecimal 来进行运算,

目录

一、加法运算        

不做处理时:

 BigDecimal 处理后:

二、减法运算

不做处理时:

 BigDecimal 处理后:

三、乘法运算

不做处理时:

 BigDecimal 处理后:

四、除法运算(Double数相除,并保留scale位小数)

不做处理时:

 BigDecimal 处理后:

五、double与int运算

 不做处理时:

 BigDecimal 处理后:


一、加法运算        

不做处理时:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        System.out.println(m1+m2);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        System.out.println(p1.add(p2).doubleValue());
    }

 运行结果:

二、减法运算

不做处理时:

public static void main(String[] args) {
        double m1=0.11;
        double m2=0.2;
        System.out.println(m2-m1);
    }

运行结果:

 

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.11;
        double m2=0.2;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        System.out.println(p2.subtract(p1).doubleValue());
    }

 运行结果:

三、乘法运算

不做处理时:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        System.out.println(m1*m2);
    }

运行结果:

 

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.1;
        double m2=0.2;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        System.out.println(p1.multiply(p2).doubleValue());
    }

 运行结果:

四、除法运算(Double数相除,并保留scale位小数)

BigDecimal.ROUND_HALF_UP表示四舍五入,

BigDecimal.ROUND_HALF_DOWN是五舍六入,

BigDecimal.ROUND_UP表示进位处理(就是直接加1),

BigDecimal.ROUND_DOWN表示直接去掉尾数。

不做处理时:

public static void main(String[] args) {
        double m1=0.14;
        double m2=0.3;
        System.out.println(m1/m2);
    }

运行结果:

 

 BigDecimal 处理后:

public static void main(String[] args) {
        double m1=0.14;
        double m2=0.3;
        BigDecimal p1 = new BigDecimal(Double.toString(m1));
        BigDecimal p2 = new BigDecimal(Double.toString(m2));
        //3代表要保留的位数
        System.out.println(p1.divide(p2,3,BigDecimal.ROUND_HALF_UP).doubleValue());
    }

 运行结果:

 

五、double与int运算

 不做处理时:

public static void main(String[] args) {
        int m1=3;
        double m2=0.3;
        System.out.println(m1*m2);
    }

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {
        int m1=3;
        double m2=0.3;
        BigDecimal p=new BigDecimal(Double.toString(m1));
        BigDecimal n=new BigDecimal(Double.toString(m2));
        System.out.println(p.multiply(n).doubleValue());
    }

 运行结果:

 

  • 6
    点赞
  • 16
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值