解决处理0.03-0.02！=0.01 ,0.1+0.2!=0.3

最新推荐文章于 2021-11-16 16:17:53 发布

爬坑的小白

最新推荐文章于 2021-11-16 16:17:53 发布

阅读量650

点赞数

文章标签： vue.js

本文链接：https://blog.csdn.net/ZJ15981837003/article/details/115867199

版权

本文介绍了一种用于提高数值运算精度的方法，包括加法和减法的实现细节。通过对输入参数的小数位数进行分析，动态调整计算过程中的精度，确保最终结果的准确性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

 /* 减法*/
    accSub(arg1, arg2) {
      var r1, r2, m, n
      try { r1 = arg1.toString().split('.')[1].length } catch (e) { r1 = 0 }
      try { r2 = arg2.toString().split('.')[1].length } catch (e) { r2 = 0 }
      m = Math.pow(10, Math.max(r1, r2))
      // last modify by deeka
      // 动态控制精度长度
      n = (r1 >= r2) ? r1 : r2
      return ((arg1 * m - arg2 * m) / m).toFixed(n)
    },

 /* 加法*/
    accAdd(arg1, arg2) {
      var r1, r2, m
      try { r1 = arg1.toString().split('.').length } catch (e) {
        r1 = 0
      }
      try { r2 = arg2.toString().split('.').length } catch (e) {
        r2 = 0
      }
      m = Math.pow(10, Math.max(r1, r2))
      return (arg1 * m + arg2 * m) / m
    },