javascript双精度运算问题

	1.0 - 0.9;//0.09999999999999998

上面的运算为什么不是0.1呢?
因为计算机只认识二进制,做运算也是做二进制的运算。
计算机会先将十进制转为二进制,但是有些十进制的无法用准确的二进制表示。比如十进制的小数转二进制:

十进制小树转二进制表示的过程,小数位乘以2,取整,小数部分继续乘以2,再取整,直到小数部分为0为止,然后将取整位按顺序排列。

	十进制     二进制
 0.1        0.0001 1001 1001 1001 ...
 0.2        0.0011 0011 0011 0011 ...
 0.3        0.0100 1100 1100 1100 ...
 0.4        0.0110 0110 0110 0110 ...
 0.5        0.1
 0.6        0.1001 1001 1001 1001 ...
 ...

我们发现有些小数的二进制表示位数是无限循环的,这就造成了浮点数精度上的问题。
下面收集了一些解决方法:

	function add(num1,num2){
     var r1,r2,m;
     try{
         r1 = num1.toString().split('.')[1].length;
     }catch(e){
         r1 = 0
     }
     try{
         r2 = num2.toString().split('.')[1].length;
     }catch(e){
         r2 = 0
     }
     m = Math.pow(10,Math.max(r1,r2));
     return Math.round(num1*m + num2*m)/m;
 }

function sub(num1,num2){
     var r1,r2,m;
    try{
        r1 = num1.toString().split('.')[1].length;
    }catch(e){
        r1 = 0;
    }
    try{
        r2 = num1.toString().split('.')[1].length;
    }catch(e){
        r2 = 0;
    }
    m = Math.pow(10,Math.max(r1,r2));
    n = (r1 >= r2) ? r1 : r2;
    return (Math.round(num1 * m - num2*m) / m).toFixed(n);
 }

function mul(num1,num2){
     var m = 0,r1,r2;
     var s1 = num1.toString();
     var s2 = num2.toString();
     try{
         m += s1.split('.')[1].length
     }catch(e){

     }
     try{}catch(e){
         m += s2.split('.')[1].length
     }catch(e){

     }
     r1 = Number(num1.toString().replace(".",""));
     r2 = Number(num2.toString().replace(".",""));
     return r1 * r2 / Math.pow(10,m);
 }

function accDiv(){
      var t1,t2,r1,r2;
     try{
         t1 = num1.toString().split('.')[1].length;
     }catch(e){
         t1 = 0;
     }
     try{}catch(e){
         t2 = num2.toString().split('.')[1].length;
     }catch(e){
         t2 = 0;
     }
     r1 = Number(num1.toString().replace(".",""));
     r2 = Number(num2.toString().replace(".",""));
     return (r1 / r2)*Math.pwo(10,t2-t1);
 }
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值