JS浮点计算时精度解决办法

以前在写一个项目时用到了一个JS在前台验证面积的问题,当时写倒没觉得有什么问题,可是客户用了一段时间之后,居然发生了一点点小问题,具体问题是这样的:1.5451+0.34133 按理来说应该是等于1.88643,结果JS给我计算时居然算成1.88629999999998了。有点小晕,后来查了一下资料,原因是js的浮点运算的一个bug.凡是结果中小数点位数超出3位的计算都存在这样一个bug。即然已经知道了问题所在,当然就要解决啦。以下是我的解决办法,贴出来给大家分享一下:

 


Number.prototype.add = function(arg){
 var bit1,bit2,m;
 try{
  bit1 = arg.toString().split(".")[1].length;
 }catch(e){
  bit1 = 0;
 }
 try{
  bit2 = this.toString().split(".")[1].length;
 }catch(e){
  bit2 = 0;
 }
 m = Math.pow(10,Math.max(r1,r2));
 return (arg*m+this*m)/m;
}
Number.prototype.sub = function(arg){
 var bit1,bit2,m;
 try{
  bit1 = arg.toString().split(".")[1].length;
 }catch(e){
  bit1 = 0;
 }
 try{
  bit2 = this.toString().split(".")[1].length;
 }catch(e){
  bit2 = 0;
 }
 m = Math.pow(10,Math.max(r1,r2));
 var n = (bit1>bit2)?bit1:bit2;
 return ((arg*m-this*m)/m).toFixed(n);
}
Number.prototype.mul = function(arg){
 var bit1,bit2,m;
 try{
  bit1 = arg.toString().split(".")[1].length;
 }catch(e){
  bit1 = 0;
 }
 try{
  bit2 = this.toString().split(".")[1].length;
 }catch(e){
  bit2 = 0;
 }
 m = bit1+bit2;
 var n = (bit1>bit2)?bit1:bit2;
 return (Number(arg.toString().replace(".",""))*Number(this.toString().replace(".",""))/Math.pow(10,m)).toFixed(n);
}
Number.prototype.div = function(arg){
 var bit1,bit2,m;
 try{
  bit1 = arg.toString().split(".")[1].length;
 }catch(e){
  bit1 = 0;
 }
 try{
  bit2 = this.toString().split(".")[1].length;
 }catch(e){
  bit2 = 0;
 }
 return (Number(arg.toString().replace(".",""))/Number(this.toString().replace(".",""))*Math.pow(10,bit2-bit1)
}

//调用方法
加法:1.5451+0.34133 的调用方法为:var s = (1.5451).add(0.34133);
减法: 1.5451-0.34133 的调用方法为:var s = (1.5451).sub(0.34133);
乘法: 1.5451*0.34133 的调用方法为:var s = (1.5451).mul(0.34133);
除法: 1.5451/0.34133 的调用方法为:var s = (1.5451).div(0.34133);

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值