1》原因
因为计算机内部的信息都是由二进制方式表示的,但由于某些浮点数没办法用二进制准确的表示出来也就带来了一系列问题
将小数转换成二进制:
整数部分:除2取余,若商不为0则继续对它除2,当商为0时则将所有余数逆序排序
小数部分:乘2取整数部分,若小数不为0则继续乘2,知道小数部分为0将取出的整数位正序排序(若小数部分无法为0,根据有效位要求取得相应值)
0.1的二进制:0.0 0011 0011 0011...0011...(0011无限循环)
2》解决方法
基本思路就是将浮点数转换成整数进行计算,然后在将整数的小数位调整
方法一:定义一个自定义的转换和处理函数
Math.formatFloat=function(f,digit){
var m=Math.pow(10,digit);
return Math.round(f*m,10)/m;
}
console.log(Math.formatFloat(0.1+0.2,1));0.3
console.log(Math.formatFloat(6.8-0.9,1));5.9
console.log(Math.formatFloat(6.8-0.4,1));6.4
方法二:
function formatFloat(x,y,f){
return +(x+y).toFixed(1);
}
var x=0.1;
var y=0.2;
console.log(formatFloat(x,y));0.3
toFixed是一个四舍六入五成双的诡异方法(也叫银行家算法)
四表示<=4时舍去,六表示>=6时进上,五指的是根据5后面的数字来决定,当5后有数字时,舍5入1;当5后有效数字时,需要分两种情况:1)5前为奇数,舍5入1;2)5前为偶数,舍5不进(0是偶数)
但是chrom并没有完全根据这个规则
var a=1.334;
console.log(a.toFixed(2));//1.33
var b=1.336;
console.log(b.toFixed(2));//1.34
var c=1.3352;
console.log(c.toFixed(2));//1.34
var d=1.335;
console.log(b.toFixed(2));//1.34
var e=1.345;
console.log(b.toFixed(2));//1.34