js浮点数计算不精确问题-封装解决函数。

最新推荐文章于 2024-09-14 18:52:56 发布

winQuan

最新推荐文章于 2024-09-14 18:52:56 发布

阅读量123

点赞数

分类专栏：学习记录文章标签： javascript

本文链接：https://blog.csdn.net/winQuan/article/details/119256972

版权

学习记录专栏收录该内容

2 篇文章 0 订阅

订阅专栏

//计算示例：
let a = 0.1;
let b = 0.2;
console.log(a + b); //0.30000000000000004
/*
实现思路:将小数转为整数，然后计算出最终结果，再转为小数
f:     表示正常计算的结果
difit: 表示计算的数字中小数点最多的位数
Math.pow(a,b):表示求a的b次方
*/
封装的函数:
function formatFloat(f, digit) {
        var m = Math.pow(10, digit);
        return Math.round(f * m) / m;
      }
console.log(formatFloat(a + b, 2)); //0.3