js精度问题(0.1+0.2;js浮点数双精度64位)

1》原因

因为计算机内部的信息都是由二进制方式表示的,但由于某些浮点数没办法用二进制准确的表示出来也就带来了一系列问题

将小数转换成二进制:

整数部分:除2取余,若商不为0则继续对它除2,当商为0时则将所有余数逆序排序

小数部分:乘2取整数部分,若小数不为0则继续乘2,知道小数部分为0将取出的整数位正序排序(若小数部分无法为0,根据有效位要求取得相应值)

0.1的二进制:0.0 0011 0011 0011...0011...(0011无限循环)

2》解决方法

基本思路就是将浮点数转换成整数进行计算,然后在将整数的小数位调整

方法一:定义一个自定义的转换和处理函数

Math.formatFloat=function(f,digit){

var m=Math.pow(10,digit);

return Math.round(f*m,10)/m;

}

console.log(Math.formatFloat(0.1+0.2,1));0.3

console.log(Math.formatFloat(6.8-0.9,1));5.9

console.log(Math.formatFloat(6.8-0.4,1));6.4

方法二:

function formatFloat(x,y,f){

return +(x+y).toFixed(1);

}

var x=0.1;

var y=0.2;

console.log(formatFloat(x,y));0.3

toFixed是一个四舍六入五成双的诡异方法(也叫银行家算法)

四表示<=4时舍去,六表示>=6时进上,五指的是根据5后面的数字来决定,当5后有数字时,舍5入1;当5后有效数字时,需要分两种情况:1)5前为奇数,舍5入1;2)5前为偶数,舍5不进(0是偶数)

但是chrom并没有完全根据这个规则

var a=1.334;

console.log(a.toFixed(2));//1.33

var b=1.336;

console.log(b.toFixed(2));//1.34

var c=1.3352;

console.log(c.toFixed(2));//1.34

var d=1.335;

console.log(b.toFixed(2));//1.34

var e=1.345;

console.log(b.toFixed(2));//1.34

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值