JS浮点数运算BUG破法

JS里，0.3*3 = 0.8999999999999999

破法1：((0.3*10)*3)/10

破法2：(0.3*3).toFixed(2)//保留两位小数

原因：js浮点数用的是IEEE754标准，用二进制实现，有此缺陷

-------

JAVA中也有这个问题： float连*100都不能保证正确性！

            float f = 39.9f;
            System.out.println(f*100*3/100);//119.70001
            
            double d = 39.9d;
            System.out.println(d*100*3/100);//119.7
            
            BigDecimal bg = new BigDecimal(39.9);
            System.out.println(bg.multiply(new BigDecimal(3)));//119.69999999999999573674358543939888477325439453125

 

转载于:https://www.cnblogs.com/AndyHoo/p/5293989.html