javaScript的数值精度问题

最新推荐文章于 2024-06-02 18:14:36 发布

lumanman_w

最新推荐文章于 2024-06-02 18:14:36 发布

阅读量502

点赞数

文章标签： javaScript 精度

本文链接：https://blog.csdn.net/a_smart_girl/article/details/91455214

版权

0.1 + 0.2  

//0.30000000000000004

0.1 + 0.2 在什么情况下不等于0.3？

0.1 转换成二进制 0.0001100110011001100110011001100110011001100110011001101

0.2 转换成二进制 0.001100110011001100110011001100110011001100110011001101

0.1+0.2 = 0.0001100110011001100110011001100110011001100110011001101 + 0.0011001100110011001100110011001100110011001100110011010 = 0.010011001100110011001100110011001100110011001100...（0.30000000000000004）

JavaScript内部所有的数字都是以64位浮点数形式储存的，第一位，符号位，0表示正数，1表示负数；第2-11位：指数部分；第13-64位小数部分，当超过52位时，会被截断，这样精度就会丢失

解决办法：

把数字转化为整数

function add(num1,num2){
    let max = 0;
    Object.keys(arguments).forEach(arg => {
        let decimalLen = arguments[arg].toString().split('.')[1].length
        decimalLen > max ? max = decimalLen : null;
    })
    let p = Math.pow(10,max)
    console.log(p);
    return (num1 * p + num2 * p)/p
}

3.008 + 3.02  // 6.0280000000000005

add(3.008,3.02) // 6.028

0.1 + 0.2 // 0.30000000000000004

add(0.1,0.2) // 0.3