javascript在计算小数(浮点数)时不准确解决方案

原因:

计算机编程语言里浮点数计算会存在精度丢失问题(或称舍入误差),其根本原因是二进制和实现位数限制有些数无法有限表示

可以利用小数位先进行整数运算,然后在结合小数位进行计算最终值。

//加法运算

export function floatAdd(arg1, arg2) {

  var r1, r2, m;

  try {

    r1 = arg1.toString().split(".")[1].length

  } catch (e) {

    r1 = 0

  }

  try {

    r2 = arg2.toString().split(".")[1].length

  } catch (e) {

    r2 = 0

  }

  m = Math.pow(10, Math.max(r1, r2));

  return (arg1 * m + arg2 * m) / m;

}

 

//减法运算

export function floatSub(arg1, arg2) {

  var r1, r2, m, n;

  try {

    r1 = arg1.toString().split(".")[1].length

  } catch (e) {

    r1 = 0

  }

  try {

    r2 = arg2.toString().split(".")[1].length

  } catch (e) {

    r2 = 0

  }

  m = Math.pow(10, Math.max(r1, r2));

  //动态控制精度长度

  n = (r1 >= r2) ? r1 : r2;

  return ((arg1 * m - arg2 * m) / m).toFixed(n);

}

 

//乘法运算

export function floatMul(arg1, arg2) {

  var m = 0,

    s1 = arg1.toString(),

    s2 = arg2.toString();

  try {

    m += s1.split(".")[1].length

  } catch (e) {

  }

  try {

    m += s2.split(".")[1].length

  } catch (e) {

  }

  return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);

}

 

//除法运算

export function floatp(arg1, arg2) {

  var t1 = 0,

    t2 = 0,

    r1, r2;

  try {

    t1 = arg1.toString().split(".")[1].length

  } catch (e) {

  }

  try {

    t2 = arg2.toString().split(".")[1].length

  } catch (e) {

  }

  r1 = Number(arg1.toString().replace(".", ""));

  r2 = Number(arg2.toString().replace(".", ""));

  return (r1 / r2) * Math.pow(10, t2 - t1);

}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值