java 小数乘法_Javascript保证精度的小数乘法

众所周知,js的小数乘法很容易丢失精度,这是一件很恶心的事情。

所以我写了这个方法,保证计算精度。

/**

* js小数乘法

*@parameter arg1:被乘数(接受小数和整数)

*@parameter arg2:乘数(接受小数和整数)

*@parameter fix: 乘积保留几位(接受正负整数以及0)

*/

function accMul(arg1,arg2,fix) {

if(!parseInt(fix)==fix)

{

return;

}

var m=0,s1=arg1.toString(),s2=arg2.toString();

try{m+=s1.split(".")[1].length}catch(e){}

try{m+=s2.split(".")[1].length}catch(e){}

if(m>fix){

return (Math.round(Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m-fix))/Math.pow(10,fix));

}else if(m<=fix){

return (Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)).toFixed(fix);

}else{

return (arg1*arg2).toFixed(fix);

}

}

另外附上 我的测试用例,不全或者有误的地方,欢迎指点批评,谢谢!

document.writeln("3472.45*0.3 = 1041.735 保留2位: "+accMul(3472.45, 0.3,2)+"
");

document.writeln("3472.45*0.3 = 1041.735 保留1位"+accMul(3472.45, 0.3,1)+"
");

document.writeln("3472.45*0.3 = 1041.735 保留0位"+accMul(3472.45, 0.3,0)+"
");

document.writeln("3472.45*0.3 = 1041.735 保留-1位"+accMul(3472.45, 0.3,-1)+"
");

document.writeln("347245*0.3 = 104173.5 保留2位"+accMul(347245, 0.3,2)+"
");

document.writeln("347245*0.3 = 104173.5 保留1位"+accMul(347245, 0.3,1)+"
");

document.writeln("347245*0.3 = 104173.5 保留0位"+accMul(347245, 0.3,0)+"
");

document.writeln("347245*0.3 = 104173.5 保留-1位"+accMul(347245, 0.3,-1)+"
");

document.writeln("347245*3 = 1041735 保留2位"+accMul(347245, 3,2)+"
");

document.writeln("347245*3 = 1041735 保留1位"+accMul(347245, 3,1)+"
");

document.writeln("347245*3 = 1041735 保留0位"+accMul(347245, 3,0)+"
");

document.writeln("347245*3 = 1041735 保留-1位"+accMul(347245, 3,-1)+"
");

document.writeln("0.5*0.3 = 0.15 保留3位"+accMul(0.5, 0.3,3)+"
");

document.writeln("0.5*0.3 = 0.15 保留2位"+accMul(0.5, 0.3,2)+"
");

document.writeln("0.5*0.3 = 0.15 保留1位"+accMul(0.5, 0.3,1)+"
");

document.writeln("0.5*0.3 = 0.15 保留0位"+accMul(0.5, 0.3,0)+"
");

document.writeln("0.5*0.3 = 0.15 保留-1位"+accMul(0.5, 0.3,-1)+"
");

document.writeln("0.5*0.3 = 0.15 保留-2位"+accMul(0.5, 0.3,-2)+"
");

document.writeln("0.5*0.3 = 0.15 保留-3位"+accMul(0.5, 0.3,-3)+"
");

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值