js 浮点数计算精度问题

/**
 * 校验是否为数字
 * @param arg
 * @return
 */
function checkIsNumber(arg){
   if(arg != null && arg.toString() != ""){
      var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
      if(re.test(arg.toString())){
         return true;
      }
   }
   return false;
}

/**
 * 加法函数,用来得到精确的加法结果
 * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accAdd(arg1,arg2){
   if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
      return null;
   }
   var r1,r2,m;
   try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}
   try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
   m=Math.pow(10,Math.max(r1,r2));
   return (arg1*m+arg2*m)/m;
}

// 给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
   return accAdd(this,arg);
}

/**
 * 减法函数,用来得到精确的减法结果
 * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accSub(arg1,arg2){
   if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
      return null;
   }
   var r1,r2,m,n;
   try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}
   try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
   m=Math.pow(10,Math.max(r1,r2));
   // n=(r1>=r2)?r1:r2; // 控制精度
   // return ((arg1*m-arg2*m)/m).toFixed(n);
   return (arg1*m-arg2*m)/m;
}

// 给Number类型增加一个subduct方法,调用起来更加方便。
Number.prototype.subduct = function (arg){
   return accSub(this,arg);
}

/**
 * 除法函数,用来得到精确的除法结果
 * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 * 返回值:arg1除以arg2的精确结果
 * @param arg1
 * @param arg2
 * @return
 */
function accDiv(arg1,arg2){
   if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
      return null;
   }
   var t1,t2,r1,r2;
   try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;}
   try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
   with(Math){
      r1=Number(arg1.toString().replace(".",""));
      r2=Number(arg2.toString().replace(".",""));
      return (r1/r2)*pow(10,t2-t1);
   }
}

// 给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){
   return accDiv(this,arg);
}

/**
 * 乘法函数,用来得到精确的乘法结果
 * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 * 返回值:arg1乘以arg2的精确结果
 * @param arg1
 * @param arg2
 * @return
 */
function accMul(arg1,arg2) {
   if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
      return null;
   }
   var m=0,s1=arg1.toString(),s2=arg2.toString();
   try{m+=s1.split(".")[1].length;}catch(e){}
   try{m+=s2.split(".")[1].length;}catch(e){}
   return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
}

// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){
   return accMul(this,arg);
}
var a=0.69;var b=10;
console.log(accDiv(a, b))

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值