精度丢失问题

前言

运行代码

public class demo {
    public static void main(String[] args){
        System.out.println(0.11+2001299.32);
    }
}

运行结果不符合

 原因分析

        计算机的运算是化为二进制计算的,小数也是一样,会先被转化成二进制,然后基于二进制运算。这样会出现一个问题,计算机会没办法完全准确地存储一些特殊的小数。这个时候就要引用网上看到的资料,计算机十进制化二进制的原理。

十进制化二进制

        整数部分:除2取余,逆序排列(余数短除法);

        小数部分:乘2取整,顺序排列;

问题出现原因

        原因出现在小数部分的化二进制上,对0.1d化二进制会发现,出现无限循环:

        0.1(十进制) = 0.000110011......(二进制)

        但是对0.5d化二进制却不会:

        0.5(十进制) = 0.1(二进制)

        本质就是计算机对数据没能准确地存储,也有别的情况又能正常的,涉及的原因是其他方面。

解决方案(Java)

        使用BigDecimal类。

        在构造参数时使用String类型,或者转化为String类型。用法如下:

public class demo {
    public static void main(String[] args){
        System.out.println(0.1+0.2);
        double a = 0.1d;
        double b = 0.2d;
        BigDecimal aa = new BigDecimal(Double.toString(a));
        BigDecimal bb = new BigDecimal(Double.toString(b));
        double answer = aa.add(bb).doubleValue();
        System.out.println(answer);
    }
}

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值