浮点数据的存储精度丢失字符与字符串类型数据显示器显示数据的方法_字符串和浮点数再显示小数位时有啥区别-CSDN博客

本文链接：https://blog.csdn.net/a1463073169/article/details/137186738

本文探讨了浮点类型（float和double）在计算机中的存储结构，解释了精度丢失的原因，并介绍了如何通过BigDecimal避免这个问题。还讨论了char类型、ASCII码和Unicode编码，以及String的内部实现。最后提到显示器数据的存储方法，包括像素点的组成和编码表的发展背景。

摘要由CSDN通过智能技术生成

浮点类型

浮点类型分为float和double，数据以科学计数法的方式存储。

float（单精度类型）：大小为32bit，其中1bit表示符号位（即数值的正负，0代表正数，1代表负数），8bit表示阶位（即小数点的位置，用移码的形式表示），23bit表示数值位（即数值，用补码的形式表示）。

double（双精度类型）：大小为64bit，其中1bit表示符号位，11位表示阶位，52bit表示数值位。

精度丢失

当我们在使用浮点数存储数据时，往往会存在精度丢失。

如上图所示，1.2 - 1 的结果并不是0.2而是0.199999... 输出结果与我们预期不同，这样的现象就是精度丢失。想要知道为什么在这里出现了精度丢失，就需要了解1.2 - 1 = 0.2→在计算机中怎样被存储。

我们在计算时是十进制计算，但是计算的结果是二进制存储的。例如十进制的0.2，当我们将其转换成二进制时，得到的结果是001100110011...这样一个无限循环的数。而double的位数是有限的，当一个无限循环的0011到达double的上限时，double将会自动把多余的部分裁去，因此会产生精度丢失的情况。

（0.2从十进制转换成二进制的过程）

精度丢失存在的原因

（1）小数在被无限地进行拆分，无法被完全表示，任何一种进制都有自己无法表示的小数。

（2）在两种进制进行转制的过程中，也有可能造成精度丢失。

如何解决无法存储精确小数的问题

可以通过BigDecimal的方式存储小数，BigDecimal的存储方式是将数据以字符串的形式存储。

import java.math.BigDecimal;

public class JingDu{
        public static void main(String[]args){
                BigDecimal b1=new BigDecimal(Double.toString(1.2));
                BigDecimal b2=new BigDecimal(Double.toString(1));
                double d=b1.subtract(b2).doubleValue();
                System.out.println("d="+d);
        }
}