浮点数的误差的产生一般由于两个原因
1)由于计算机内部以二进制保存,所以十进制的有限位的小数,在计算机内部会是一个无限位的小数。
例如 十进制的0.9虽然只有一位小数,转成2进制是无限循环小数0.1110011001100110011…
2)计算机保存浮点数的精度有限,例如float可以保留十进制最多7位(二进制23位)有效数字,double 可以保留十进制15~16位(二进制52位)有效数字。那有效数字以后的就被忽略了。
例如上面的0.9的表示受精度所限,精度以后的就被忽略了,这样
float时,它是0.89999998
double时,它是0.90000000000000002
浮点数据类型不适合金融高精度的使用,误差较大,
但我们可以用可Math包里的 BigDecimal或BigInteger()方法进行处理
import java.math.BigDecimal;
public class Main(){
public static void mian (String() args){
BigDecimal bd =BigDecimal.ValueOf(1.0);
bd=bd.subtract(BigDecimal.valueof(0.1));
system.out.prinln(bd);
System.out.println(1.0-0.1);
}
}
适合高精度的使用