js计算小数精度的问题

先总结:所有的运算均先转成整数

js 进行数学运算会出现精度问题

网上有很多方案,总结下比较靠谱的一种:

原因分析:

js小数计算先转二进制,计算完再转十进制

导致可能出现xxxx.999 这种

解决方案。先转整数再计算再还原小数

这里给出加法和乘法两种方案,其他自行研究下吧

特别注意 加法必须配合乘法使用,

//自定义加法运算第一步实际上还是有问题

//自定义加法运算最终版为准

为什么?简单的说就是一个小时乘以正数(即使是10的N次方)也可能存在精度问题

看例子:0.48*10 正常;4460.48*10出现精度问题,用我们自定义的mulNum(4460.48,10) 正常

console.log("0.48*10="+0.48*10)
console.log("4460.48*10="+4460.48*10)
console.log("+mulNum(4460.48,10)="+mulNum(4460.48,10))

> "0.48*10=4.8"

> "4460.48*10=44604.799999999996"

> "+mulNum(4460.48,10)=44604.8"

//自定义加法运算第一步
function addNum (num1, num2) {
    var num1s, num2s;
    var sq1=0,sq2=0,m=0;
    try {
        num1s=  num1.toString().split(".");
        sq1 = num1s.length=2? num1s[1].length:0;
    }
    catch (e) {
    }
    try {
        num2s=  num2.toString().split(".");
        sq2 = num2s.length=2? num2s[1].length:0;
    }
    catch (e) {
    }
    m = Math.pow(10,Math.max(sq1, sq2));
    return (num1 * m + num2 * m) / m;
}
//自定义乘法法运算
function mulNum(num1, num2){
    var num1s, num2s;
    var m=0;
    var num1Acc=num1.toString().replace(".",""), num2Acc=num2.toString().replace(".","");
    try {
        num1s=  num1.toString().split(".");
        m += num1s.length=2?num1s[1].length:0;
    }
    catch (e) {
    }
    try {
        num2s=  num2.toString().split(".");
        m +=  num2s.length=2? num2s[1].length:0;
    }
    catch (e) {
    }
    return Number(num1Acc)*Number(num2Acc)/Math.pow(10,m);
}

 

//自定义加法运算最终版
function addNum (num1, num2) {
    var num1s, num2s;
    var sq1=0,sq2=0,m=0;
    try {
        num1s=  num1.toString().split(".");
        sq1 = num1s.length=2? num1s[1].length:0;
    }
    catch (e) {
    }
    try {
        num2s=  num2.toString().split(".");
        sq2 = num2s.length=2? num2s[1].length:0;
    }
    catch (e) {
    }
    m = Math.pow(10,Math.max(sq1, sq2));
    return (mulNum(num1 , m) + mulNum(num2 , m)) / m;
    // return (num1 * m + num2 * m) / m;
}

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值