JS计算精度问题和及数据格式

本文介绍了如何在Vue中通过precisionMath.js解决前端JavaScript中的数据计算精度问题,包括加法、除法、乘法和减法,重点讲解了如何通过动态控制小数位数来保留指定精度。还提供了`retain`方法示例,用于保留小数点后指定位数。
摘要由CSDN通过智能技术生成

提示:这里记录前端js数据计算一些问题



JS计算精度问题

一、在vue中,写一个js方法,如下precisionMath.js

export const precisionMath =  {
    methods: {
    	// 加法
        add(arg1, arg2) { 
          var r1, r2, m, n;
          try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
          try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
          m = Math.pow(10, Math.max(r1, r2));
          //last modify by deeka
          //动态控制精度长度
          n = (r1 >= r2) ? r1 : r2;
          return ((arg1 * m + arg2 * m) / m).toFixed(n);
        },
        // 除法
        except(arg1, arg2) {
            var t1 = 0, t2 = 0, r1, r2;
            try {
            t1 = arg1.toString().split(".")[1].length
            } catch (e) {
            }
            try {
            t2 = arg2.toString().split(".")[1].length
            } catch (e) {
            }
            r1 = Number(arg1.toString().replace(".", ""))
            r2 = Number(arg2.toString().replace(".", ""))
            return (r1 / r2) * Math.pow(10, t2 - t1);
        },
        // 乘
        ride(arg1, arg2) {
            var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
            try { m += s1.split(".")[1].length } catch (e) { }
            try { m += s2.split(".")[1].length } catch (e) { }
            return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
        },
        // 减
        reduce(arg1, arg2) {
            var r1, r2, m, n;
            try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
            try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
            m = Math.pow(10, Math.max(r1, r2));
            //last modify by deeka
            //动态控制精度长度
            n = (r1 >= r2) ? r1 : r2;
            return ((arg1 * m - arg2 * m) / m).toFixed(n);
        }
    }
}

二、在页面中使用

    import {  precisionMath } from "@/js/precisionMath"; // 在页面中引入这个js文件
    // precisionMath.methods.方法名称(参数1,参数2)

保留小数点后几位数据

 retain(num, d) {
   return (parseInt(num * 100) / 100).toFixed(d)
},
this.retain('数值','保留小数位数')
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 在 JavaScript 中,浮点数的精度问题是经常会出现的。JSON.stringify() 方法在将 JavaScript 对象转换为 JSON 字符串时,会将浮点数转换为字符串。如果要保留浮点数的精度,可以使用 toFixed() 方法将浮点数转换为指定位数的字符串。 例如,将一个浮点数保留两位小数并转换为 JSON 字符串: ``` let num = 3.14159265358979323846; let str = num.toFixed(2); // "3.14" let obj = { "num": str }; let jsonStr = JSON.stringify(obj); // '{"num":"3.14"}' ``` 需要注意的是,使用 toFixed() 方法会将浮点数转换为字符串,因此如果需要进行计算,需要先将字符串转换为浮点数: ``` let num = 3.14; let str = num.toFixed(2); // "3.14" let num2 = parseFloat(str); // 3.14 let result = num2 * 2; // 6.28 ``` 另外,如果需要对更大或更小的浮点数进行精确计算,建议使用第三方库,如 BigNumber.js。 ### 回答2: 在JavaScript中,JSON(JavaScript Object Notation)是一种数据交换格式,用于存储和传输结构化的数据。在JSON格式化中,涉及到数字类型的数据存储和精度问题。 由于JavaScript的数字类型使用的是双精度浮点数表示(IEEE 754标准),因此在进行计算或存储较大或较小的数值时,可能会出现精度丢失的问题。 举例来说,当我们使用JSON.stringify()将一个包含浮点数的对象转换为JSON字符串时,浮点数的精度可能会受到影响。这是因为在转换过程中,JavaScript会将浮点数转换为字符串,并根据双精度浮点数的存储规则来进行近似表示,从而可能导致精度损失。 解决这个问题的方法是使用一些特定的库或方法来处理数值的精度。例如,可以使用big.js库来处理大数字的精度。这个库提供了一组方法和函数,可以帮助我们在进行数值计算时保持较高的精度。 另外,还可以使用toFixed()方法将数值转换为指定精度的字符串。该方法接受一个参数,表示要保留的小数位数。通过将数值转换为字符串并指定小数位数,可以有效避免精度丢失的问题。 总结来说,在JavaScript中,处理JSON格式化中的精度丢失问题,可以使用一些特定的库或方法,如big.js库或toFixed()方法来保持较高的数值精度。这样可以确保在进行数据计算和存储时,不会因为浮点数的精度问题而产生误差。 ### 回答3: 在JavaScript中,对于浮点数的精度问题是普遍存在的,而JSON格式化也会造成精度丢失。这是由于JavaScript中的数值类型采用IEEE 754浮点数标准表示,这种表示方法对于某些小数无法精确表示,从而导致精度丢失。 当我们将一个JavaScript中的浮点数使用JSON.stringify()方法转换成JSON格式时,会发现部分浮点数的精度出现了问题。这是因为在字符串化过程中,JavaScript会将浮点数转换成其最接近的可表示的浮点数,这个过程会导致一些小数的精度丢失。比如对于0.1这个浮点数,在字符串化的过程中可能会被转换成0.10000000000000001。 为了解决这个问题,我们可以使用一些方法来保留浮点数的精度。一种方法是使用toFixed()方法来限定小数位数。这个方法会将浮点数四舍五入到指定的小数位数,并返回一个字符串。例如,可以使用num.toFixed(2)来将一个浮点数保留两位小数。 另一种方法是使用第三方库,如big.js或decimal.js。这些库提供了更精确的数学运算,能够保持浮点数的准确度。这些库允许我们进行高精度的计算,并且提供了格式化输出的方法。 总结而言,JavaScript中的浮点数精度问题JSON格式化过程中会进一步暴露出来。为了解决这个问题,我们可以使用toFixed()方法来限定小数位数,或者使用第三方库来进行精确的数学运算。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值