精度计算损失问题

 在做商城数据计算时有些数值在运算的时候会出现精度问题,原因就是计算机底层会把这些数值转换成2进制运算,运算完成转换成10进制,所以会出现一些精度问题,所有计算机语言都有此问题,只是有些语言提供了解决方法

js的解决方案

解决:

    /** 
     ** 加 
     **/  
    function (arg1, arg2) {  
      var r1, r2, m, c;  
      try {  
        r1 = arg1.toString().split(".")[1].length;  
      }  
      catch (e) {  
        r1 = 0;  
      }  
      try {  
        r2 = arg2.toString().split(".")[1].length;  
      }  
      catch (e) {  
        r2 = 0;  
      }  
      c = Math.abs(r1 - r2);  
      m = Math.pow(10, Math.max(r1, r2));  
      if (c > 0) {  
        var cm = Math.pow(10, c);  
        if (r1 > r2) {  
          arg1 = Number(arg1.toString().replace(".", ""));  
          arg2 = Number(arg2.toString().replace(".", "")) * cm;  
        } else {  
          arg1 = Number(arg1.toString().replace(".", "")) * cm;  
          arg2 = Number(arg2.toString().replace(".", ""));  
        }  
      } else {  
        arg1 = Number(arg1.toString().replace(".", ""));  
        arg2 = Number(arg2.toString().replace(".", ""));  
      }  
      return (arg1 + arg2) / m;  
    };  
      
    /** 
     ** 减 
     **/  
    function (arg1, arg2) {  
      var r1, r2, m, n;  
      try {  
        r1 = arg1.toString().split(".")[1].length;  
      }  
      catch (e) {  
        r1 = 0;  
      }  
      try {  
        r2 = arg2.toString().split(".")[1].length;  
      }  
      catch (e) {  
        r2 = 0;  
      }  
      m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度  
      n = (r1 >= r2) ? r1 : r2;  
      return Number(((arg1 * m - arg2 * m) / m).toFixed(n));  
    };  
      
    /** 
     ** 乘 
     **/  
    function (arg1, arg2) {  
      var m = 0, s1 = arg1.toString(), s2 = arg2.toString();  
      try {  
        m += s1.split(".")[1].length;  
      }  
      catch (e) {  
      }  
      try {  
        m += s2.split(".")[1].length;  
      }  
      catch (e) {  
      }  
      return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);  
    };  
      
    /** 
     ** 除 
     **/  
    function (arg1, arg2) {  
      var t1 = 0, t2 = 0, r1, r2;  
      try {  
        t1 = arg1.toString().split(".")[1].length;  
      }  
      catch (e) {  
      }  
      try {  
        t2 = arg2.toString().split(".")[1].length;  
      }  
      catch (e) {  
      }  
      with (Math) {  
        r1 = Number(arg1.toString().replace(".", ""));  
        r2 = Number(arg2.toString().replace(".", ""));  
        return (r1 / r2) * pow(10, t2 - t1);  
      }  
    };  

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值