1 此片博客的目的。
最近在对公司的电商项目进行重构 发现在计算的时候偶尔会出现误差,查阅资料发现是由于java中由于对float或double的使用不当,可能出现精度丢失的问题。相信也有很多同学遇到过,我在网上找解决办法的时候也是很复杂或者没有根本解决问题。写下这篇博客希望可以帮到大家。
2 精度为啥会丢失呢?
关于 java 的 float 和 double
Java 语言支持两种基本的浮点类型: float 和 double 。java 的浮点类型都依据 IEEE 754 标准。IEEE 754 定义了32 位和 64 位双精度两种浮点二进制小数标准。
IEEE 754 用科学记数法以底数为 2 的小数来表示浮点数。32 位浮点数用 1 位表示数字的符号,用 8 位来表示指数,用 23 位来表示尾数,即小数部分。作为有符号整数的指数可以有正负之分。小数部分用二进制(底数 2 )小数来表示。对于64 位双精度浮点数,用 1 位表示数字的符号,用 11 位表示指数,52 位表示尾数。如下两个图来表示:
float(32位):
double(64位):
都是分为三个部分:
(1) 一 个单独的符号位s 直接编码符号s 。
(2)k 位 的幂指数E ,移 码表示 。
(3)n 位 的小数,原码表示 。
那么 20014999 为什么用 float 没有办法正确表示?
结合float和double的表示方法,通过分析 20014999 的二进制表示就可以知道答案了。
以下程序可以得出 20014999 在 double 和 float 下的二进制表示方式。
输出结果如下:
Double:100000101110011000101100111100101110000000000000000000000000000
Float:1001011100110001011001111001100
对于输出结果分析如下。对于都不 double 的二进制左边补上符号位 0 刚好可以得到 64 位的二进制数。根据double的表 示法,分为符号数、幂指数和尾数三个部分如下:
0 10000010111 0011000101100111100101110000000000000000000000000000
对于 float 左边补上符 号位 0 刚好可以得到 32 位的二进制数。 根据float的表示法, 也分为 符号数、幂指数和尾数三个部分如下 :
0 10010111 00110001011001111001100
绿色部分是符号位,红色部分是幂指数,蓝色部分是尾数。
对比可以得出:符号位都是 0 ,幂指数为移码表示,两者刚好也相等。唯一不同的是尾数。
在 double 的尾数 为: 001100010110011110010111 0000000000000000000000000000 ,省略后面的零,至少需要24位才能正确表示。
而在 float 下面尾数 为: 00110001011001111001100 ,共 23 位。
为什么会这样?原因很明显,因为 float尾数 最多只能表示 23 位,所以 24 位的 001100010110011110010111 在 float 下面经过四舍五入变成了 23 位的 00110001011001111001100 。所以 20014999 在 float 下面变成了 20015000 。
也就是说 20014999 虽然是在float的表示范围之内,但 在 IEEE 754 的 float 表示法精度长度没有办法表示出 20014999 ,而只能通过四舍五入得到一个近似值。
3 总结
浮点运算很少是精确的,只要是超过精度能表示的范围就会产生误差。往往产生误差不是 因为数的大小,而是因为数的精度。因此,产生的结果接近但不等于想要的结果。尤其在使用 float 和 double 作精确运 算的时候要特别小心。
4 解决方案
/**
* 提供精确的减法运算。
*
* @param v1 被减数
* @param v2 减数
* @return 两个参数的差
*/
public static double sub(double v1, double v2) {
BigDecimal b1 = new BigDecimal(Double.toString(v1));
BigDecimal b2 = new BigDecimal(Double.toString(v2));
return b1.subtract(b2).doubleValue();
}
/**
* ava float 精度处理
* ##0.0;-##0.0 保留一位
*
* @param num
* @return
*/
public static String floatToString1(float num) {
DecimalFormat df = new DecimalFormat();
try {
df.applyPattern("##0.0;-##0.0"); //保留一位
return df.format(num);
} catch (Exception e) {
return "";
}
}
/**
* ava float 精度处理
* ###0.00;-###0.00 保留两位
*
* @param num
* @return
*/
public static String floatToString2(float num) {
DecimalFormat df = new DecimalFormat();
try {
df.applyPattern("###0.00;-###0.00"); //保留两位
return df.format(num);
} catch (Exception e) {
return "";
}
}
/**
* java double 精度处理
* ###0.00;-###0.00 保留一位
* ##0.0;-##0.0 保留一位
*
* @param num
* @return
*/
public static String doubletoString1(double num) {
DecimalFormat df = new DecimalFormat();
try {
df.applyPattern("##0.0;-##0.0"); //保留一位
return df.format(num);
} catch (Exception e) {
return "";
}
}
/**
* java double 精度处理
* ###0.00;-###0.00 保留两位
*
* @param num
* @return
*/
public static String doubletoString2(double num) {
DecimalFormat df = new DecimalFormat();
try {
df.applyPattern("###0.00;-###0.00"); //保留两位
return df.format(num);
} catch (Exception e) {
return "";
}
}