js正确的小数计算姿势

最新推荐文章于 2024-04-21 23:13:47 发布

MAX_陈

最新推荐文章于 2024-04-21 23:13:47 发布

阅读量1.3k

点赞数

分类专栏：技术心得文章标签： javascript

本文链接：https://blog.csdn.net/weixin_38988990/article/details/113922379

版权

技术心得专栏收录该内容

5 篇文章 0 订阅

订阅专栏

本文讨论了JavaScript在处理浮点数计算时可能出现的精度问题，并提供了一种安全的计算方法。通过确保数字转换为相同小数位数，然后进行计算，最后除以最大位数来避免误差。示例代码展示了如何实现这个方法，确保更精确的浮点数相加操作。

摘要由CSDN通过智能技术生成

js正确的小数计算姿势

众所周知，计算机在计算浮点型数字时，计算出的结果是有偏差的，例如，" 0.1+0.2 !== 0.3 "尤其是前端，暂时没有普及官方的小数相关计算的插件库，大家都是各显神通，用到的比较多的解决方案就是，小数点有几位小数就乘以相应的10的阶乘，然后计算完再除去对应的阶乘。
但是之前，我在计算两位小数时，自作主张的乘以了10000，例如 (110000+b10000)/10000,测试了几个数字发现没什么问题，就部署到测试环境了，但很快发现还是出现了问题，当：404.53*10000 并不等于 4045300 而是等于4045299.9999999995，发现计算失效，还是老老实实按照常规的解决方法计算吧。以下是简单的计算思路：
ps：(100 * 1045.38 + 100 * 161.87) / 100 这种计算结果为1207.2500000000002
所以安全的计算方法应该为以下方法

//推荐这种算法，其他计算自行拓展
function add(data1, data2) {
    let decimalPlaces1, decimalPlaces2;//数据1和2的小数点的位数
    let max, diffValue;
    ecimalPlaces1 = (data1.toString().split('.')[1] || '').length;
    ecimalPlaces2 = (data2.toString().split('.')[1] || '').length;
    diffValue = Math.abs(ecimalPlaces1  - ecimalPlaces2 );
    max = Math.pow(10, Math.max(ecimalPlaces1, ecimalPlaces2));
    if (diffValue  > 0) {
        let multipleOf10 = Math.pow(10, diffValue);
        if (ecimalPlaces1 > ecimalPlaces2) {
            data1= Number(data1.toString().replace(".", ""));
            data2= Number(data2.toString().replace(".", "")) * multipleOf10 ;
        } else {
            data1= Number(data1.toString().replace(".", "")) * multipleOf10 ;
            data2= Number(data2.toString().replace(".", ""));
        }
    } else {
        data1= Number(data1.toString().replace(".", ""));
        data2= Number(data2.toString().replace(".", ""));
    }
    return (data1+ data2) / max;
}