double精度丢失问题

陪雨岁岁年年

已于 2023-04-13 11:26:02 修改

阅读量398

点赞数

分类专栏：随笔文章标签： java 开发语言

于 2023-03-15 10:47:21 首次发布

本文链接：https://blog.csdn.net/m0_47649585/article/details/129547353

版权

随笔专栏收录该内容

15 篇文章 0 订阅

订阅专栏

1.原理

二进制的数无法表现出所有十进制的数，如十进制的0.1，在二进制中就是无限循环小数

2.例子

在这里插入图片描述

3.解决方案

<1>将乘数的小数位*10到消除然后参与计算
在这里插入图片描述
<2>使用BigDecimal类

public class test19 {
    public static void main(String[] args) {
        double d = 538.8;
        // 推荐使用string构造
        BigDecimal a1 = new BigDecimal(Double.toString(d));
        BigDecimal b1 = new BigDecimal(Double.toString(100));
        BigDecimal result = a1.multiply(b1);// 相乘结果
        System.out.println(result);
        BigDecimal one = new BigDecimal("7");
        double a = result.divide(one, 1, BigDecimal.ROUND_HALF_UP).doubleValue();//四舍五入保留1位数
        System.out.println(a);
    }
}

------------------------------------------------------------------
53880.00
7697.1

4.扩展（来源）

double型数据的有效位数是指它能表示的最大的十进制数字的位数。由于double型数据是用64位二进制来存储的，其中52位用来存储尾数，所以它能表示的最大的二进制数字是2^{52+1} = 9007199254740992。这个数字在十进制中有16位，所以double型数据的有效位数为15/16。第16位不一定有效，因为可能会有四舍五入或精度损失的问题。
不同的例子可以是：- 1234567890123456.0和1234567890123457.0都是double型数据，但它们之间相差1，超过了第16位，所以不能被区分。- 3.141592653589793和3.141592653589794都是double型数据，但它们之间相差0.000000000000001，在第16位上有差异，所以可以被区分。