JavaScript中浮点数精确值问题

js中规定安全整数的范围是-2的53次方至2的53次方
也就是-9007199254740992~9007199254740992

在JavaScript中0.1+0.2不等于0.3的问题

0.1+0.2; //0.30000000000000004
0.1+0.2==0.3; //false

浮点数的运算
首先,十进制的0.1和0.2会被转换成二进制的,但是由于浮点数用二进制表示时是无穷的:

0.1 -> 0.0001 1001 1001 1001...( 1100循环)
0.2 -> 0.0011 0011 0011 0011...( 0011循环)

IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持53位二进制位,所以两者相加之后得到二进制为:

0.0100110011001100110011001100110011001100110011001100

因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了0.30000000000000004。所以在进行算术计算时会产生误差

我们可以把需要计算的数字升级(乘以10的n次幂)成计算机能够精确识别的整数,等计算完成后再进行降级(除以10的n次幂),这是大部分变成语言处理精度问题常用的方法

( 0.1* 10 + 0.2* 10)/ 10 == 0.3 //true

但依然有误差

35.41 * 100 = 3540.9999999999995

封装函数进行处理:

function operation(a, b, op){
 //将数字进行规范处理,获取源数字与规范的整数的关系及整数值
 //例如  数字1 规范为{1,1}  1/1=1
 //数字12.1  规范为{10,121}    121/10=12.1
 //数字1.21  规范为{100,121}   121/100=1.21
 function floatNum(floatN){
     //判断传入的数值是否为整数
     var isnum = (Math.floor(floatN) === floatN);
     // console.log( isnum );
     var ret = {tims:1, num:0};            
     if( isnum ){
         ret.num = floatN;
     }else{
         var newFloat = floatN + '';//转换为字符串,也可使用toString()方法:floatN.toString()
         var len=newFloat.split('.')[1].length; 
         ret.tims = Math.pow(10, len);            
         ret.num = Number(newFloat.replace('.',''));//转换成整数
     }
     return ret;
 }

 //对处理的数字进行加减乘除的计算
 var numObj1= floatNum(a);
 var numObj2 = floatNum(b);
 var num1 = numObj1.num;
 var num2 = numObj2.num;
 var t1 = numObj1.tims;
 var t2 = numObj2.tims;
 var max = t1>t2 ? t1 : t2;
 var result = null;
 switch(op){
     case 'add':
         if( t1 == t2 ){
             result = num1 + num2;
         }else if(t1 > t2){
             result = num1 + num2*(t1/t2);
         }else{
             result = num1*(t2/t1) + num2;
         }
         return result / max;
     case 'subtract':
         if( t1 == t2 ){
             result = num1 - num2;
         }else if(t1 > t2){
             result = num1 - num2*(t1/t2);
         }else{
             result = num1*(t2/t1) - num2;
         }
         return result / max;
     case 'multiply' :
         result = (num1 * num2) / (t1 * t2);
         return result;
     case 'divide' :
         result = (num1 / num2) * (t1 / t2);
         return result;

 }
}
var x= operation(1, 10.1, 'add');
console.log(x); //11.1
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值