精确的四则运算过程

最新推荐文章于 2021-02-16 18:44:56 发布

ynd_sg

最新推荐文章于 2021-02-16 18:44:56 发布

阅读量293

点赞数

分类专栏：计算机组成原理文章标签：四则运算

本文链接：https://blog.csdn.net/ynd_sg/article/details/79539688

版权

计算机组成原理专栏收录该内容

2 篇文章 1 订阅

订阅专栏

四则运算的加法（精确求解）

正常情况下：parseFloat(a)+parseFloat(b);

精度可能丢失，如a=0.1，b=0.2，上述结果为0.30000000000000004

//精确的加法运算
	function accAdd(arg1, arg2) {
    var r1, r2, m, c;
    try {
        r1 = arg1.toString().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.toString().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
    if (c > 0) {
        var cm = Math.pow(10, c);
        if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
        } else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
        }
    } else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
    }
    return (arg1 + arg2) / m;
	
}