JavaScript中toFixed的精度问题

MDN关于toFixed的讲解

地址为:Number.prototype.toFixed()
简单来说,toFixed() 方法使用定点表示法来格式化一个数。该数值在必要时进行四舍五入,另外在必要时会用 0 来填充小数部分,以便小数部分有指定的位数。

问题

toFixed()方法并不完全是四舍五入,toFixed的四舍五入是有问题的。示例如下(示例环境为chrome 62.0):

let a;
a = 1.15;
console.log(a.toFixed(1)); // "1.1"
a = 1.25
console.log(a.toFixed(1)); // "1.3"

toFixed()方法使用的是银行家舍入法,即:四舍六入五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一。
但是我们看到,在chrome上也不符合银行家舍入法,事实上,每个浏览器返回的数值都可能不一致,这主要是二进制浮点数的精度不够导致的。
其下是一种解决方案(非原创):

 // http://www.chengfeilong.com/toFixed
 Number.prototype.toFixed = function(length) {
    var carry = 0; //存放进位标志
    var num,multiple; //num为原浮点数放大multiple倍后的数,multiple为10的length次方
    var str = this + ''; //将调用该方法的数字转为字符串
    var dot = str.indexOf("."); //找到小数点的位置
    if(str.substr(dot+length+1,1)>=5) carry=1; //找到要进行舍入的数的位置,手动判断是否大于等于5,满足条件进位标志置为1
    multiple = Math.pow(10,length); //设置浮点数要扩大的倍数
    num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有数,然后加上我们的手动进位数
    var result = num/multiple + ''; //将进位后的整数再缩小为原浮点数
    /*
    * 处理进位后无小数
    */
    dot = result.indexOf(".");
    if(dot < 0){
        result += '.';
        dot = result.indexOf(".");
    }
    /*
    * 处理多次进位
    */
    var len = result.length - (dot+1);
    if(len < length){
        for(var i = 0; i < length - len; i++){
            result += 0;
        }
    }
    return result;
}

致谢

本文参考文章有:
1. MDN-[Number.prototype.toFixed()]: https://developer.mozilla.org/zh-CN/docs/Web/JavaScript/Reference/Global_Objects/Number/toFixed
2. 司徒正美-[Javascript中 toFixed]: https://www.cnblogs.com/rubylouvre/p/7405293.html
3. chengfeilong-[toFixed计算错误(依赖银行家舍入法的缺陷)解决方法]: http://www.chengfeilong.com/toFixed

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值