JavaScript计算精度失真问题

在项目中,碰到一些需要计算的时候有时候会有精度丢失的问题,因为计算机在进行进制转换的时候丢失了精度

解决思路:把需要计算的数字乘以10的n次幂.变成计算机能够精确识别的整数

解决方案:

小数点相加

function  add(num1,num2){
let  baseNum,baseNum1,baseNum2;
try {
baseNum1=num1.toString.split('.')[1].length;
} catch (e){ baseNum1=0}
try {
baseNum2=num2.toString.split('.')[1].length;
} catch (e){ baseNum2=0}
baseNum=Math.pow(10,Math.max(baseNum1,baseNum2))
return (num1* baseNum+ num2* baseNum) / baseNum;
}

小数点减法

function subtract(num1,num2) {
let baseNum,baseNum1,baseNum2,accuracy;
try {
baseNum1=num1.toString.split('.')[1].length;
} catch (e){ baseNum1=0}
try {
baseNum2=num2.toString.split('.')[1].length;
} catch (e){ baseNum2=0}
baseNum=Math.pow(10,Math.max(baseNum1,baseNum2))
accuracy=baseNum1>=baseNum2?baseNum1:baseNum2
return ((num1*baseNum1-num2*baseNum2)/baseNum).tofixed(accuracy)
}

小数点乘法

 //乘法 
 function accMul(arg1,arg2) 
 { 
 var m=0,s1=arg1.toString(),s2=arg2.toString(); 
 try{m+=s1.split(".")[1].length}catch(e){} 
 try{m+=s2.split(".")[1].length}catch(e){} 
 return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) 
 } 

除法

function accDiv(arg1,arg2){ 
 var t1=0,t2=0,r1,r2; 
 try{t1=arg1.toString().split(".")[1].length}catch(e){} 
 try{t2=arg2.toString().split(".")[1].length}catch(e){} 
 with(Math){ 
 r1=Number(arg1.toString().replace(".","")) 
 r2=Number(arg2.toString().replace(".","")) 
 return accMul((r1/r2),pow(10,t2-t1)); 
 } 
 } 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值