又是double精度问题

遗留:

1. 定点数和浮点数的区别

2.java中的浮点数和js的浮点数, 以及java返回给js的有符号位的浮点数可能导致的问题

 

浮点数的表示方法, 有的语言用string表示, 有的语言转成二进制表示

如果是进制转换, 就可能需要转成无限小数问题, 而截取的位数是有限的, 进而损失精度.  

另外, java和js都使用二进制的科学计数法去表示十进制的数, 所以是属于进制转换,  在取值范围和精度上都有限制如java:

float 32bit：1bit（符号位） 8bits（指数位） 23bits（尾数位, 相当于二进制的精度位）

double 64bit：1bit（符号位） 11bits（指数位） 52bits（尾数位, 相当于二进制的精度位）

 

由于历史, 项目中使用的double

有位大哥使用了 double*100

public static void main(String[] args) {
    double a = 152.70;
    System.out.println(a);
    System.out.println(a * 100);//15280.000000000002
    System.out.println(Math.round(a * 100));//还凑合

    double b = 152.70;
    System.out.println(b);
    System.out.println(b * 100);//15269.999999999998
    System.out.println((int)(b * 100));//15269 错误!!!不是想要的
}

然后把15280.000000000002 - 15280 = 1.8189894035458565E-12这个结果返回给了前端, 

前端拿去和0比较, 结果就炸了

 

原因:就是double的精度问题. 单个double数可能就有损失精度, 多个double数运算(减法和乘法都输入加法)可能导致损失的精度更多

解决方法:

1.能整形变量就绝不浮点变量, 如果用了浮点数, 在做比较的时候最好转为整数后在比较.

2.使用Math.round(a * 100), 一般是可以的, 这个0.000000000002会干扰你四舍五入的前提是你的当前这个数的精度达到了0.00000000001,  不然是无影响的

3.Java 中Double型强制转换成int型时是向下取整, 别使用, 万一你拿到的是15279.9999999998, 就把想要的15280变成15279了

后话: 

1. 出了使用bigdecimal外, 用dou = (double)Math.round(dou*100)/100 可以保留两位小数  , *1000)/1000可以保留三位

2. 15280.000000000002 经过数据库存储后, 数据库的double字段也是设计了精度的,比如两位, 所以还是会截取到保留2位小数, 从数据库拿的数据给前端的话是还行的

有用的链接:

1.https://www.zhihu.com/question/42024389

补充: 科学技术发截取一定有效位数后, 被舍弃的精度通常(没见过其他的)一定要四舍五入处理的, 假如不处理, 例如直接舍弃, 那会造成152.80变成152.9999999999999999

如果四舍五入呢, 会好一些, 但是结果你也会看到, 属于五入的152.79999999999998**** == 四舍的152.79999999999999******, 编译器或者ide会直接提示你这两个数是在java double类型下是 == 的

2.阿里开发手册有提到js的浮点数位数比java的少, 所以java的极小的浮点数可能会是js中的一个很大数

可以用下面的程序看看你想输入的数字, 比如元转分的double(傻帽)是否会带个小尾巴

    public static void main(String[] args) {
        Scanner sc = new Scanner(System.in);
        while (true) {
//        System.out.println("ScannerTest, Please Enter Name:");
//        String name = sc.nextLine();  //读取字符串型输入
//        System.out.println("ScannerTest, Please Enter Age:");
//        int age = sc.nextInt();    //读取整型输入
//        System.out.println("ScannerTest, Please Enter Salary:");
            System.out.println("-----请输入数字, 例如152.80, 我们会只保留2位有效数字------:");
            double salary = sc.nextFloat(); //读取float型输入
            salary = (double) Math.round(salary * 100) / 100;
            System.out.println("您本轮的输入的数字以及*100后的结果");
            System.out.println(salary);
            System.out.println(salary * 100);
            System.out.println(Math.round(salary * 100));
            //四舍五入, 如果你确定期望值是整数, 那么小数位的造成就是丢了一小小小点的精度, 即便精度放大了一百倍, 也不会到0.4这个关口, 所以四舍五入会拿到期望的数值
            System.out.println((int)(salary * 100));//危险, 直接舍弃所有小数位, 即向0取整
        }