处理js中浮点数计算精度问题

主要思想就是将浮点数计算转换成整数计算

//除法函数,用来得到精确的除法结果
//说明:javascript 的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1 除以 arg2 的精确结果
function accDiv(arg1,arg2){
    var t1 = 0,t2 = 0,r1,r2;
    try{t1 = arg1.toString().split('.')[1].length}catch(e){}//split()返回通过指定符号划分的数组3.4  [‘3’,’4’]字符串
    try{t2 = arg2.toString().split('.')[1].length}catch(e){}
    with(Math){//with()指定对象下面相当于math.number
        r1 = Number(arg1.toString().replace('.',''));
        r2 = Number(arg2.toString().replace('.',''));
        return (r1 / r2) * pow(10,t2 - t1);//pow()计算幂10的多少次幂
    }
}
//给 Number 类型增加一个 div 方法,调用起来更加方便。
Number.prototype.div = function (arg){
    return accDiv(this, arg);
};
//乘法函数,用来得到精确的乘法结果
//说明:javascript 的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1 乘以 arg2 的精确结果
function accMul(arg1,arg2)
{
    var m = 0,s1 = arg1.toString(),s2 = arg2.toString();
    try{m += s1.split('.')[1].length}catch(e){}
    try{m += s2.split('.')[1].length}catch(e){}
    return Number(s1.replace('.',''))*Number(s2.replace('.','')) / Math.pow(10,m);
}
//给 Number 类型增加一个 mul 方法,调用起来更加方便。
Number.prototype.mul = function (arg){
    return accMul(arg, this);
};
//加法函数,用来得到精确的加法结果
//说明:javascript 的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1 加上 arg2 的精确结果
function accAdd(arg1,arg2){
    var r1,r2,m;
    try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
    try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
    m = Math.pow(10,Math.max(r1,r2));
    return (arg1 * m + arg2 * m) / m;
}
//给 Number 类型增加一个 add 方法,调用起来更加方便。
Number.prototype.add = function (arg){
    return accAdd(arg,this);
}
//减法函数
function accSub(arg1,arg2){
    var r1,r2,m,n;
    try{r1 = arg1.toString().split('.')[1].length}catch(e){r1 = 0}
    try{r2 = arg2.toString().split('.')[1].length}catch(e){r2 = 0}
    m = Math.pow(10,Math.max(r1,r2));
    //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
    return ((arg2 * m - arg1 * m) / m).toFixed(n);//toFixed()返回四舍五入的小数
}
///给 Number 类增加一个 sub 方法,调用起来更加方便
Number.prototype.sub = function (arg){
    return accSub(arg,this);
}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

LBY_XK

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值