Java中int类型向float类型转化时的精度缺失问题

Java中int类型向float类型转化时的精度缺失问题

问题

在Java中，123456789是一个大整数，它所包含的位数比float类型所能够表示的位数多，当这个整数转换为float类型时，将会得到正确的大小，但是会损失一些精度，这个精度缺失是怎么造成的？

原因

一、数据表示范围和精度不同

1. int 类型与 float 类型的表示方式：
   • int 类型是 32 位整数，用于表示精确的整数值，范围大约是 -21 亿到 21 亿。
   • float 类型是 32 位浮点数，采用科学计数法的方式来表示数值。它由 1 位符号位、8 位指数位和 23 位尾数位组成。
2. 表示范围的差异：
   • float 类型的数值范围比 int 类型大得多，可以表示非常大的数和非常小的数。但是，对于整数而言，float 类型在表示整数区间的某些大整数时，可能会出现精度损失。

二、浮点数的存储方式导致精度损失

1. 科学计数法的存储方式：
   • float 类型的数值以科学计数法的形式存储，即将一个数表示为尾数乘以 2 的指数次方。例如，1.2345e3 表示 1.2345×10³。
   • 在存储大整数 123456789 时，float 类型会将其转换为科学计数法的形式进行存储。由于尾数部分只有 23 位有效数字，而2的23次方小于123456789，所以尾数部分无法精确表示,从而导致精度损失。

boolean flag=pow(2,23)>123456789;System.out.println(flag);//输出为false

2. 舍入误差：
   • 在将大整数转换为 float 类型时，可能需要进行舍入操作。如果尾数部分无法完全表示大整数的所有位数，就会根据一定的规则进行舍入。舍入操作可能会导致精度损失，使得转换后的浮点数与原始的大整数不完全相等。
   • 例如，123456789 转换为 float 类型后，可能会得到一个近似值，如 1.23456792E8。可以看到，与原始的大整数相比，转换后的浮点数在末尾的几位数字上出现了差异，这就是精度损失的表现。