js四则运算小数精度不准确（计算后有无限循环小数）

最新推荐文章于 2024-08-07 10:10:37 发布

笔下无书生

最新推荐文章于 2024-08-07 10:10:37 发布

阅读量2k

点赞数 1

分类专栏：后端相关知识前端相关

本文链接：https://blog.csdn.net/weixin_45005931/article/details/100865980

版权

前端相关同时被 2 个专栏收录

19 篇文章 0 订阅

订阅专栏

后端相关知识

13 篇文章 1 订阅

订阅专栏

我们知道计算机数据处理中都是把数据识别为二进制，而不是我们习惯的十进制，所以在数据计算时首先会把数据转换为二进制，比如
0.1 => 0.0001 1001 1001 1001…（无限循环），因为数据的不同，有些数据在转换成二进制后会无限循环，但计算机是不允许无限循环的，对于无限循环的小数，计算机会进行舍入处理。进行双精度浮点数的小数部分最多支持 52 位，因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就会出现因截断而引起的误差
下面提供几个加减乘除的误差处理方法主要遵循逻辑就是先把数据化为整数，然后再还原

<!doctype html>
<html lang="en">

<head>
    <meta charset="UTF-8" />
    <meta http-equiv="X-UA-Compatible" content="IE=edge,chrome=1" />
    <meta name="viewport" content="width=400">

    <script>

        //加法函数，用来得到精确的加法结果
        //说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
        //返回值：arg1加上arg2的精确结果
        Number.prototype.add = function (arg1) {
            var arg2 = this;
            var r1, r2, m;
            r1 = arg1.toString().split(".").length > 1 ? arg1.toString().split(".")[1].length : 0;
            r2 = arg2.toString().split(".").length > 1 ? arg2.toString().split(".")[1].length : 0;
            m = Math.pow(10, Math.max(r1, r2))//两个数相加 最大小数位数为两个值的最大位数
            return (arg1 * m + arg2 * m) / m
        }
        //减法函数，用来得到精确的加法结果
        //说明：javascript的减法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。
        //返回值：arg1减去arg2的精确结果
        Number.prototype.acc = function (arg1) {
            var arg2 = this;
            var r1, r2, m, n;
            r1 = arg1.toString().split(".").length > 1 ? arg1.toString().split(".")[1].length : 0;
            r2 = arg2.toString().split(".").length > 1 ? arg2.toString().split(".")[1].length : 0;
            m = Math.pow(10, Math.max(r1, r2));
            //动态控制精度长度
            n = (r1 >= r2) ? r1 : r2;
            return ((arg1 * m - arg2 * m) / m).toFixed(n);
        }
        //除法函数，用来得到精确的除法结果
        //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
        //返回值：arg1除以arg2的精确结果
        Number.prototype.div = function (arg2) {
            var arg1 = this;
            var t1 = 0, t2 = 0, r1, r2;
            t1 = arg1.toString().split(".").length > 1 ? arg1.toString().split(".")[1].length : 0;
            t2 = arg2.toString().split(".").length > 1 ? arg2.toString().split(".")[1].length : 0;
            with (Math) {
                r1 = Number(arg1.toString().replace(".", ""))
                r2 = Number(arg2.toString().replace(".", ""))
                return (r1 / r2) * pow(10, t2 - t1);
            }
        }

        //乘法函数，用来得到精确的乘法结果
        //说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
        //返回值：arg1乘以arg2的精确结果
        Number.prototype.mul = function (arg1) {
            var arg2 = this;//原值  arg1乘积
            var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
            //为了获取两个乘积值的小数位数总数
            m += s1.split(".").length > 1 ? s1.split(".")[1].length : 0;
            m += s2.split(".").length > 1 ? s2.split(".")[1].length : 0;
            //两个整数相乘 然后除以扩大的倍数
            return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
        }


        function Click() {
            var a = 0.679;
            var b = 10;
            alert(a * b);//6.79000000000001
            alert((a * 1000) / 10);//6.79
            alert(new Number(a).mul(b));
            alert(new Number(a).add(b));
            alert(new Number(a).div(b));
            alert(new Number(a).mul(b).mul(b));
            alert(new Number(a).acc(b));
        }
    </script>
</head>

<body>
    <input type='button' value="button" onclick="Click()" />
</body>

</html>